Сегодня уже не соображается. Но кажется все таки дело в блокировке от качаний (БКЧ).
По осциллограмме в начале КЗ в БКЧ сработали Zin и Zout. Это нормально. Затем дугу раздуло и Zin отпало. Тоже логично. Через 0,22 сек, когда КЗ появилось на третей фазе, снова работает Zin.
И БКЧ сочло, что это качания и заблокировало ДЗ. Вроде все сходиться.
Вот уставки БКЧ по времени
tP1 - 0.200 с    Выдержка времени определения начала качаний
tP2 - 0.040 с    Выдержка времени определения последующих качаний
tW - 0.600 с    Выдержка времени для активизации таймера последующих качаний tP2
tH - 0.000 с    Выдержка времени на удержание выхода START
tR1 - 0.300 с    Выдержка времени на  запрет блокирования при появлении тока 3I0
tR2 - 2.000 с    Выдержка времени на запрет блокирования при очень медленных качаниях
Может кто подскажет, что задали не так. Или для этого случая все работало правильно?

Нет, это не спасло бы:
Во первых эта блокировка действует через выдержку времени  tR1, т.е. ДЗ все равно бы успело сбросить выдержку времени и пришлось бы опять начинать отсчет времени.
Во вторых у нас эта цепочка не сконфигурирована.

Оба на! А я сегодня третий день пойдет, как эти годографы пытаюсь нарисовать.
Z1 с задержкой на 0,1 сек не успела отключить., как дугу с фазы А сорвало.  А уже потом фаза А  замкнулась на землю. КЗ было примерно на границе чувствительности 1 зоны (80% длины ВЛ) 
Но работа БКЧ обусловлена не входом/выходом из зоны  Z1, а входом/выходом/входом  в зону Zin и не выходом из зоны Zout. 
Это WinRec BS так рисует из комтреда? (Надо будет установить). А почему сопротивления получились во 2 квадранте?
Фактически характеристику блокировки от качаний у Вас построена,  на нее надо наложить характеристику 2 зоны ДЗ. Что я и пытаюсь изобразить .
Уставки прилагаю. Если нетрудно нарисуйте, потом сравним результаты.

Нарисовал  характеристики, вот что получается. Коричневый- Z1, синий-Z2, зеленый- полигон Zin. В первом квадранте- годограф петли ВС, в 4-м квадранте -годограф фазы В.
Сразу отмечу, что участки выреза нагрузки зоны Zin получились именно такими, т.к. например, активная составляющая  RLdInFw=KLdRFw×RLdOutFw=0,7×230=161 Ом., превышает уставку R1FInFw= 66 Ом. Буду рад, если я ошибаюсь, поправьте.
Получилось то что я и предполагал. Вначале, после срабатывания Z1вс, спустя время годограф покидает  зону, не сработав на отключение. Затем, в блокировке от качаний построенной на контроле фазных сопротивлений, годограф  фазы «В» покидает зону Zin, происходит возврат блокировки по внутренней границе контроля. При замыкании на землю фазы «А» оба годографа, скачком возвращаются в свои зоны, но работу Z1 запрещает БКЧ, т.к. время возврата Zin превысило выдержку времени определения начала качаний tP1. Выкладываю в помощь характеристики Павино. Открываются просмотрщиком годографов программы WinRec

Пока не осознал, как работать с WinRec-BS и просмотреть "Характеристики Павино" не смог. Но по картинке результат совпадает с Вашим. Только Вы нарисовали ненаправленными Z1 и Z2 и Zin с какими-то «вырезами». У нас вырезы заданы только для Z3.
Но суть в том, что Zb заходит/выходит/заходит в Zin через время >tP1 не выходя из Zout и в результате БКЧ принимает это за качания. НО! Zbc из 2 зоны ДЗ не выходит.
Разглядел в мануале, что в БКЧ доступны два режима работы:
- 1 из 3 позволяет обнаружить качания мощности в одной из трех фаз.
- 2 из 3 может распознавать качания мощности не менее чем в двух фазах из трех.
Но чем или как это задается не нашел. В уставках мы этого не задавали. Судя по работе, то 1 из 3.  Но думаю, что это не решение проблемы. Могут и в двух фазах сопротивления «гулять». Поведение дуги непредсказуемо.
На картике характеристики сопротивлений:
Белая – Z1,
Голубая – Z2,
Красная – Zin,
Розовая – Zout.
Годографы сопротивлений:
Zbc – голубая,
Zb – зеленая,
Zca – розовая,
Zc – красная.
Остальные не доходят до Zout.

А с селектором поврежденных фаз у вас какие зоны ДЗ, только первая или все?

КЗ на фоне качаний? Так наоборот, для этого даже какая-то логика есть, чтобы не блокироваться.

Тогда вторая ступень ф-ф не работала т.к. появился 3Io. По осциллограммам то же видно,как появляется ток 3Io,все ступени возвращаются.

:)  Если бы все было так просто. Вы забываете, что это ABB. И все, что написано, требует конфигурирования. См. пост №3.

Спасибо за инструкцию.
Но Ваш файл «Характеристики Павино» программа WinRec-BS (Версия 2.17.7.30) не видит. (Файл – Открыть «Все файлы РЕКОН»- и в окошке пусто. Перебрал типы файлов по отдельности результат то же).
По характеристике Zin. Обсудим с расчетчиками. Я срисовал характеристику у них. В данном случае, на работу это не повлияло.
Думаю, что все-таки в данном случае была работа БКЧ при выявлении качания в 1 из 3.
Из разговора с наладчиками, которые производили работы, вот что выяснилось по этим режимам:
- за режим 1 из 3 отвечает вход BLRI01 – подача на этот вход сигнала «1» отключает  данный режим.
- за режим 2 из 3 отвечает вход BLRI02 – подача на этот вход сигнала «1» отключает данный режим.
В мануале на прямую про это ни слова.
По мануалу
-  на BLRI01 подается 3I0 для запрета БКЧ при появлении 3I0 и задается время tR1.
- по входу BLRI02, только то, что задается tR2 – выдержка времени при очень медленных качаниях.
В нашей конфигурации эти входа никуда не подключены, т.е. на каждом входе сигнал «0» и БКЧ работает  по 1 из 3 или 2 из 3.
Можно сделать вывод, что подав жестко на эти входа по «1» будем иметь контроль качаний только по 3 м фазам. Этот вывод требует подтверждения специалистов.
PS. Конфигурация прилагается