Уточните какая защита? От ОЗЗ или межфазных КЗ?

Можно выделить следующие причины: неустойчивый характер ОЗЗ, значительные погрешности ТТНП, феррорезонансные процессы.

Схема нулевой последовательности
      ---->
==|=@===C1
    |
    |   <--     -->
    |=@==*=C2
             Uk0

При КЗ на своей линии ток через бублик (@) пойдет в шины (направление измеряется относительно напряжения U0=Uk0, равенство примерно справедливо для сети с изол. и комп. нейтралью)
На неповрежденной линии ток пойдет в линию.   

Т.е. если положительное направление замера "в линию" (определяется подключением терминала), то на поврежденной линии ток отстает от напряжения на 90°, на неповрежденной- опережает на 90°.

Если защиту сделать ненаправленной, то она знать не будет, отстает ток или опережает, поэтому придется перебрать все режимы КЗ везде, где только можно (т.е. и на своей линии, и на соседней линии), и выбрать наибольший ток. Иначе эта защита будет срабатывать когда надо и не надо.

Направленность позволяет смотреть только на ток при КЗ на своей линии. Внешнее КЗ отсекается по углу.
Формально, надо просто взять ток при ОЗЗ на своей линии, поделить на Кч=2 и выставить уставкой.

Реально из этого иногда получается ерунда, например, когда своя линия длинная, а от РУ больше ничего толком не отходит, и тогда уставка какая-то мизерная. И встает вопрос отстройки от небаланса в нагрузочном режиме, а инфы толком нет.
Запрашивал как-то на форуме осциллограммы, что-то в районе 1-3% небаланс, но хотелось бы осциллограмм побольше.

я так и не понял, какая именно разновидность защиты вас конкретно интересует и с какой целью.

есть МТЗ на фазный ток (разность фазных токов и т.п.), в фазном токе есть прямая последовательность, поэтому отстраиваемся от максимального тока нагрузки (ток нагрузки почти целиком и есть ток прямой последовательности)

есть МТЗ на ток нулевой последовательности (ТЗНП, в сетях с изол. нейтралью ее называют ЗОЗЗ). Она отстраивается от тока нулевой последовательности в нормальном режиме, который очень мал (небалансы).

в сети с изолированной нейтралью сопротивление нулевой последовательности системы (треугольник трансформатора) равно бесконечности. Поэтому протекание токов нулевой последовательности определяется, главным образом, емкостью кабелей. Емкостное сопротивление -j/wC настолько велико, что по сравнению с ним продольные сопротивления (активно-индуктивные) - закоротки. Поэтому ток нулевой последовательности при замыкании на землю практически этой емкостью и определяется.

Вот цитата, которую вы привели

относится к выбору уставок направленной ЗОЗЗ, включаемой на ток 3I0 и напряжение 3U0.

Направленная МТЗ фазного тока к данной цитате отношения не имеет. Ее довольно редко применяют. Теоретически она позволяет как-то там оптимизировать уставки по току и времени. От нагрузочного тока она отстраивается.