"Отклонение по величине при сохранении угла фаз– это составляющая нулевой последовательности, но теперь я думаю, что раз здесь не задействован именно трансформатор нулевой последовательности, а присутствует некий согласующий трансформатор, то скорее всего прибор реагирует и на составляющую обратной последовательности. С трансформатором такого рода я еще не сталкивался и функциональность его по сравнению с другими мне надо будет для себя выяснить."
Принцип действия токового контроля изоляции вводов (а КИВ-500Р - именно токовое реле) вы поняли как-то не так. Согласующий трансформатор ТПС имеет одну первичную обмотку с отводами и одну вторичную с отводами. Ничего особенного. Токи отбора от вводов могут довольно сильно различаться из-за разброса величины ёмкости ввода. Поэтому подбором отводов первичной обмотки при симметричном рабочем напряжении на трансформаторе сначала этот небаланс минимизируют. В сущности, речь идёт о снижении суммарной намагничивающей силы - суммарного магнитного потока в сердечнике ТПС. Во вторичной обмотке ток уже один, можете считать его током нулевой последовательности, но он не пропорционален геометрической сумме токо отбора, ведь применением отводов её намеренно нарушают, с целью, повторюсь, снижения тока небаланса. Итак, на выходе ТПС один ток, который и попадает в реле КИВ. Оно не такое уж и простое, но - сейчас не об этом! Это фактически два реле максимального тока, и орган выдержки времени. Предположим, во вводе (в бумажной изоляции) развивается дефект, и ток утечки растёт. Ток небаланса, попадающий в реле, тоже растёт, до срабатывания сигнального органа (реле тока с меньшей уставкой). Если это дефект изоляции, то ток будет расти (не мгновенно) и дальше, и спустя какое-то время сработает и отключающий орган (реле тока с большей уставкой). Если это произойдет раньше, чем задано выдержкой времени - это не повреждение, а неисправность, например, обрыв цепи одного из токов отбора, одной из фаз. Схема КИВ блокируется, действет на сигнал. Если же ток увеличится медленно, и реле тока (отключающее реле тока) сработает позднее, по истечении выдержки - времени, то защита действует на отключение. Как видите, это реле тока, а не напряжения, и принцип его действия не диференциальный.
Напряжение ... КИВ может срабатывать на сигнал при несимметрии первичного напряжения. Например, мне известен такой пример - при выводе в ремонт ВЛ 500 кВ она находится под наведённым напряжением от ближней к ней крайней фазы линии, оставшейся в работе. Это напряжение наводится на всех фазах отключенной ВЛ, и КИВ реактора, который подключен к отключенной линии срабатывает (на всех фазах реактора наводится примерно одинаковое по модулю и фазе напряжение, сумма токов отбора превышает уставку КИВ).
Это всё так, для "общего развития". На твёрдотельных вводах не может быть токового КИВ, подобного описанному, т.к. емкость таких вводов существенно меньше, и повреждение в них развивается иначе. Есть устройства КИВ, работающие на иных принципах, но, повторяю, у меня нет опыта работы с ними. Вот про такое пермское я читал: http://dimrus.com/kiv500.html