Если брать сопротивление трансформатора
Xт=uk%/100*Uном^2/Sном, то учет РПН делается так

Xт=uk%/100*(Uном*(1+dUрпн))^2/Sном=uk%/100*Uном^2/Sном*(1+dUрпн)^2

Если расчет ведется со стороны, где есть РПН (например, ВН - 110 кВ)
то условно для РПН +-16% будет умножение на (1+dUрпн)^2=(1+0.16)^2 или на (1-0.16)^2, в зависимости от положения РПН

Если же расчет ведется со стороны, где РПН нет (например, НН - 10 кВ), то Xт=uk%/100*Uном^2/Sном

При повороте РПН меняется uk% (см. например, ГОСТ 17544-85 (тр-ры 220 кВ и выше), ГОСТ 12965-85 (тр-ры 110-150 кВ)).
Если говорить об именно трансформаторах (не авто-), то там uk% почти константа. Поэтому грубо можно считать, что Xт, приведенный к НН, всегда один и тот же.
Если говорить об автотрансформаторах, то там плавание uk (см. ГОСТ) гораздо сильнее.

Также при расчете токов КЗ нужно учитывать, что РПН не крутится сам, он вращается в зависимости от напряжения, соответственно, нужно менять (с некоторым грубым допущением) ЭДС сети. Если расчет идет со стороны ВН (например, 110 кВ), то ЭДС нужно поднимать на E=(1+dUрпн)*Eном,
если же расчет идет со стороны НН (например, 10 кВ), то ЭДС менять не нужно, т.к. АРКТ поддерживает постоянное напряжение.

Можно взять конечно режим отказа АРКТ и загнать РПН в крайнее положение безотносительно величины ЭДС, но это выглядит несколько перебором.

Т.е. таким образом наиболее безгеморройным выглядит расчет с приведением всего, скажем, к 10 кВ, тогда в первом приближении на РПН можно забить и все.
А если нужно считать уставки сети 110 кВ и выше, то там приходится возиться.

uk% зависит от коэффициента рассеяния (1-Kсвязи), Kсвязи примерно 0.99999, как я понимаю, если витки добавляются, то они связаны с витками основного Т хуже, и рассеяние (и uk) растет.
А если витки отнимаются, то рассеяние (и uk) падает.
У автотрансформатора РПН сидит на СН в таком ответвлении, и там я так понимаю рассеяние (и uk) растет с увеличением числа витков в этом ответвлении, и уменьшается при уменьшении числа витков ответвления.

если вы чисто про сам uk, то зависимость установить аналитически очень сложно, потому что все зависит от геометрии обмоток, сколько там слоев, какая толщина и как намотаны РПН-ные витки
Xk=(1-Kсвязи^2)*Xобм, где Xобм - индуктивность катушки (именно катушки, не рассеяния...). Xобм=2*п*f*mu*mu0*w^2*S/l

Если в формуле Xk=uk/100*Uном^2/Sном мы учитываем РПН изменением Uном, то
Uном~w,
Uном^2~w^2,
остальные параметры в формуле Хобм у нас не меняются, таким образом,

формула  Xk=uk/100*Uном^2*(1+dUрпн)^2/Sном учтет нам изменение числа витков при постоянстве коэффициента связи. Получается, uk меняется только в зависимости от Kсвязи.

Если РПН-ные витки намотаны примерно так же, как основная обмотка, то Kсвязи меняться не должен (степень 0 в вашей формуле).
Если РПН-ные витки связаны магнитно хуже, чем витки основной обмотки, то добавление РПН-ных витков увеличит Ксвязи итоговый, uk будет расти (степень больше 0)
Если РПН-ные витки связаны лучше, то Ксвязи будет приближаться к 1, и uk будет падать.

Также надо отметить, что РПН-ные витки - в них номинальное напряжение, скорее всего, в середине диапазона.

Да uk действительно зависит от геометрии трансформатора, обмоток (зазора между обмотками, среднего диаметра обмоток и пр. - об этом хорошо написано в Вольдеке).
Было бы хорошо рассчитать uk по геометрии и по формулам, приведенным в Шабаде или Белякове. Может быть такое сравнение и дало ответ можно ли uk рассчитывать по формулам, приведенным в Белякове и Шабаде и если можно, то в каких пределах лежит n - по Шабаду или Белякову.

С другой стороны согласно Вольдеку Хк зависит от квадрата количества витков, и на первый взгляд кажется, что при изменении положения РПН (изменения количества витков) uк также будет зависеть от квадрата изменения количества витков (относительного коэффициента трансформации).

Теоретически (при r = 0) uk можно выразить через Хк, как uk = Xк*100*Sном/Uном^2, подставляя сюда выражение для Хк из Вольдека (или Петрова) получим выражение для uk.
В Петрове написано, что если в обмотках витки, расположенные в средней части, отключаются для регулирования напряжения, то энергия поля рассеяния Aсигма (которая определяет индуктивность рассеяния трансформатора как Lк = 2*Aсигма/i^2) несколько возрастает (энергия поля рассеяния вычисляется через объемный интеграл, в общем сложное). Это я к чему - во первых витки не то, чтобы заложены в Uном, они заложены в Хк, во вторых - uk зависит от энергии поля рассеяния, а это сложное. Поэтому на практике пользуются приближенными формулами, приведенными в Шабаде или Белякове.

Поскольку выводы относительно величины n у них несколько отличаются, хотелось бы понять во первых можно ли пользоваться приближенными формулами (скорее всего с той или иной степенью приближения можно) и во вторых может ли n находится не только в диапазоне 0...4, а быть, например, отрицательным и разным при перемещении РПН в разные стороны от среднего положения (учитывая что энергия поля рассеяния - сложное, предполагаю, что может быть все что угодно, надо проводить исследования).

Нашел ещё рекомендации по расчету Хт в зависимости от положения РПН в руководящих указаниях по релейной защите (выпуск 11). Там рассматриваются трансформаторы трех групп: для первой группы (у которых Хт изменяется незначительно) n = 0, для второй группы (у которых хт увеличивается при перестановке переключателя в сторону повышения напряжения в основном Т с Uвн = 110 кВ) n = 0,5..1, для третьей группы (у которых Хт уменьшается при перестановке переключателя в сторону повышения напряжения, в основном Т с Uвн = 220 кВ и выше) -1..-2. в общем пойду еще руководящие указания посмотрю :)

Посмотрел РУ - согласно РУ n может быть отрицательным (хотя и пишут, что n = 1...2, видимо Шабад тоже писал 0...4 подразумевая модуль n), пазл сложился, осталось не понятным почему зависимость не бьётся с PF (видимо в PF своя методика).

Я имел ввиду другое: согласно Вольдека для концентрических обмоток Хк = 2*пи*f*мо*w^2 пи*Dср*kr/l*(d + (d1+d2)/3).

Если же подставить полученное выражение в формулу для uk = Xк*100*Sном/(dU*w)^2 получим uk = 2*пи*f*мо*пи*Dср*kr/l*(d + (d1+d2)/3)*100*Sном/dU^2, получится, что от uk не будет зависеть от w. Если же Uном не раскрывать, то зависеть будет.

Согласно Белякова n вычисляется так n = lg(uk_max/uk.ср)/ lg(kт_max/kт_ном). Формула понятна - вывод её достаточно прост: оно выводится из двух соотношений
uk = uk.ср*(1 + dUрпн/100)^n и kт = kт_ном*(1 + dUрпн/100) и даже ГОСТ открывать не надо ))

Ну на этапе проектирования или курсовой конечно ГОСТ и справочник Неклепаева в руки и вперед (но там собственно другие задачи и цели - обычно РПН вообще не учитывают).
По хорошему же надо брать паспорт (протокол испытаний) - там должны быть uk и для крайних положений РПН в том числе тоже (если же документы безнадежно утеряны, то можно (нужно) проводить измерения).
По моему опыту, чтобы документация потерялась такого не было: да говорили, что давно уже ничего нет, есть только шильдики, фото, паспорта и след простыл, начинаешь спрашивать, а может протокол испытаний есть - оказывается есть и даже значения uk на крайних положениях есть (обычно так).

Почему Вы говорите, что n зависит от того, что Uном = const. Судя по формуле n - зависит от значений uk и kт (коэффициент трансформации) в крайних положениях РПН (ну и в номинальном есессно тоже).

Судя по Белякову  uk можно аппроксимировать зависимостью uk = uk.ср*(1 + dUрпн/100)^n
По Руководящим указаниям Хт* можно (надо) аппроксимировать как Хт* = uk/100 = Хт.ср* * а^n, где а = Uн.р/Uн.ср(р) (можно представить как а = Uн.ср(р)*(1 + dUрпн/100)/Uн.ср(р) = 1 + dUрпн/100), другими словами можно (нужно) аппроксимировать также как в Белякове.

Так давайте вспомним - первый раз n появилась в формуле uk = uk.ср*(1 + dUрпн/100)^n - в формуле Белякова (и в формуле Шабада). Здесь нет никакого Uном.
Выше я показал, что формула в руководящих указаниях по сути аналогична формуле Белякова.
Думаю эти формулы несложно проверить путем натурных измерений uk при разных положениях РПН (предполагаю, что эта формула и появилась на основании этих измерений).

о каком постоянном uk (1+dUрпн)^2  вы говорите так и не понял. uk - величина относительная и не зависит ни от стороны ВН, ни от НН.