Посмотрите: Авербух. Примеры расчетов неполнофазных режимов и коротких замыканий.

Как вариант, можно заглянуть в статью в журнале "Вестник ИГЭУ", вып.1.2005г. (есть в интернете):

"Особенности работы тупиковых подстанций 220-110 кВ при неполнофазных режимах по признаку заземления нейтрали трансформаторов", авторы Т.Е. Путова, В.П.Гречин, П.Г. Малюшицкий.

Ia=-(Ib+Ic), EA=-(EB+EC)
Фаза А надета на ас, В на ba, С на cb.

На холостом ходу токи намагничивания в фазах В и С сдвинуты под 120 градусов (т.к. есть 2 контура фаза-нейтраль) и вызывают кольцевой ток в треугольнике (стороны ba и cb), который протекает через обмотку ac и наводит ЭДС в фазе A. И там как-то получается из-за Ia=-(Ib+Ic), EA=-(EB+EC), что наводится в фазе А ровно такое же напряжение, какое должно было быть без обрыва.

А нагрузка как бы шунтирует обмотку ас, в нее ток намагничивания не попадает  (при достаточно большой нагрузке), и наведенное напряжение начнет падать.

Если же нейтраль разземлена, то ток намагничивания в фазах В и С один (он входит в фазу В и выходит из фазы С). Соответственно, и потенциал оборванной фазы будет половиной от межфаного напряжения.

А будет ли зависимость от магнитной схемы трансформатора. Если сердечник трехстержневой, то по идее магнитный поток должен замыкаться через разомкнутую обмотку. Получается эффект наведенного напряжения должен быть и на трехстержневых трансформаторах YY, Yd?