Сделать так можно. Срабатывает реле от ампер витков =100. Включите ли Вы 3 витка или 11-8=3 намагничивающая сила будет одинакова. Вы даже сделаете немного хуже - увеличите активное сопротивление нагрузки. Я не понял в чем беспокойство.
У Вас есть некоторое невыравнивание, которое с помощью данного реле не выправить, но возможно расчетные условия это допускают. По плечу с Ктт=1000/5 ток срабатывания ДЗШ будет=6666А, а по плечу с Ктт=1500/5 ток срабатывания будет=6000А. То есть 11% небаланса при сквозном токе уже может быть. Но, возможно это допустимо.
А как сделан контроль обрыва токовых цепей. Традиционно установлено реле РТ-40Р в хвосте, включенное в 3Iо. Теперь, при неполнофазном режиме это реле может сработать от небаланса и вывести ДЗШ. Такое в практике случалось. Для исключения такого вывода надо установить три реле РНТ, включенные аналогично пусковым органам, с чувствительной уставкой для контроля цепей тока (это даже лучше - позволяет контролировать невставленные блоки), или выравнивать токи для РТ-40Р с помощью пром ТТ.

R14, +1

Иногда в защитах двух обмоточных трансформаторов используют только две уравнительные обмотки РНТ-565 или ДЗТ-11.
Так как уравнительные обмотки гальванически связаны, то использовать их в избирательных органах ДЗШ  распределительных устройств, схемы которых позволяют фиксировать присоединения на разные СШ (например - двойная СШ с обходной ), невозможно. Отсюда и ограничение в виде двух групп ТТ с разными Ктт. 

Давать советы топикстартеру по схеме включения реле можно, если знать схему (РУ) и схему защиты, как минимум, так как при 17-ти присоединениях РУ обычно выполняется секционированным.

Токовые цепи от групп ТТ с разными Ктт могут быть объединены только в одном месте - после пускового органа ДЗШ.
Поэтому в избирателях на реле РНТ-565 возможно использовать только пару гальваничеки несвязанных обмоток (рабочая + одна уравнительная),
а в реле РНТ-567 две рабочих обмотки не имеющих электрической связи.

Никогда не сталкивался с такими ДЗШ, но рассматриваю два варианта:
1. Промежуточные ТТ, чтобы из трех групп ТТ с разными Ктт получить две группы.
2. Использовать гальванически несвязанную часть уравнительной обмотоки (витки 0-6), если это допустимо по условиям выравнивания Ктт.