power_lineparam ==> вбиваешь параметры для ДВУЦЕПЫ (там можно задать число фаз больше трех: 6, 9...да хоть сто, если терпения хватит)
далее матрицы в блок distributed parameters line .
Three-phase mutual inductance  - туда только последовательности вбивать (прямую и нулевую). В просто Mutual Inductance можно, в принципе, наверное, вбить матрицы R и L из результатов power_lineparam. Там есть вкладка Generalized Mutual Inductance. Матрицы будут 6х6 (2 линии по 3 фазы)

Он учитывается при расчете матриц (т.е. ток в нем выражен через токи фаз и подставлен куда надо). Если нет необходимости считать именно ток в грозотросе, то главное его учесть в power_lineparam и все. Если нужен ток в тросе, его нужно задавать как еще один провод.

Можно и так. Более "цивилизованно" (но менее точно) можно сделать, рассчитав симметричные составляющие сопротивлений (можно опять же через тот же power_lineparam, он выдает значения симметричных составляющих всех сопротивлений, в т.ч. и взаимных. В этом случае линия считается как бы транспонированной по всей длине.

Но надо помнить, что такой подход снижает точность (немного), т.к. реальная несимметрия не учитывается.

Да-да, будет 6типроводной блок. Но лучше использовать distributed parameters line, туда все матрицы разом подставляются, да и емкости учитываются.
А так емкости придется учитывать отдельно, причем будет редкостный геморрой: нужно будет воткнуть фазные и межфазные емкости, отдельно задавать им параметры... И еще нужно учесть, что матрица емкостей через power_lineparam рассчитывается в т.н. узловой (Nodal) форме, т.е. ее коэффициенты - это не совсем емкости. Вроде бы, если мне память не изменяет, межфазная емкость - это недиагональный коээффициент, взятый с противоположным знаком, а емкость на землю - это сумма элементов одного столбца матрицы.

Я блоком Mutual Inductance почти не пользовался раньше, но мне кажется. что лучше его использовать как сопротивление системы, т.к. его можно сконфигурировать так, чтобы в итоге сопротивления прямой и обратной последовательности системы были бы разные. Обычный блок Three-phase Mutual Inductance такого варианта не дает, там Z1=Z2 в итоге всегда.

:) Сколько лет этим формулам (в 20e-30е гг ХХ века были выведены), а есть еще те, кто сомневается...
Тогда уж и землю надо в уравнения добавлять. Да еще учесть, что ток в земле растекается. И записывать тогда уравнения Максвелла и всякие интегралы.
Отправьте их читать хотя бы EMTP Theory Book (там объяснено, каким образом исключаются грозотросы). Или РУ 11...

Все зависит от того, как он заземлен. Бывают варианты, что он заземлен через искровой промежуток с одного конца, тогда вообще в уравнениях его нет (если быть точным, надо учитывать возможность пробоя промежутка.. т.е. можно этот самый промежуток каким-то нелинейным элементом воткнуть, только это муторно). Бывают варианты, когда он заземлен. Тогда да, по концам надо землю воткнуть.
Я вначале думал, что надо линию тогда на короткие участки разбивать, чтобы заземлять трос там, где он зазамлен реально... но нет, вроде бы оказалось достаточно по концам земли повтыкать и все, результат от количества заземлений не поменялся...

Расчет чего? Емкостей? Зачем, если есть power_lineparam? Там сложно будет не посчитать, сложно будет вбить все это дело в симулинк (2 цепи, 6 фаз, 6 емкостей на землю и 15 межфазных... и каждую-отдельным кондером, и в каждый-задай свой параметр. Я хз, можно ли сделать mutual inductance блок с отрицательными индуктивностями).

Где-то в конце 80-х в Америке (то ли  в США, то ли в Канаде) была создана эта самая EMTP и к ней здоровая такая книжка за авторством H.W.Dommel, где очень подробно разжевано, как, что и почему. Есть, правда, кое-где опечатки (вероятно, возникшие при оцифровке), но в целом очень объемный и качественный труд.
Потом разрабы EMTP разделились на 2 группы -одна хотела развития EMTP как некоммерческого продукта, другие хотели коммерциализировать. В результате появились 2 программы: ATP-EMTP (бесплатная) и EMTP-RV (платная). Theory Book выкладывают, как я понял, как раз сторонники бесплатной версии (официально).
EMTP-RV я не видел. ATP-EMTP стадает двумя недостатками:
1) Закрытостью исходного кода (это как раз была договоренность между сторонниками и противниками коммерции) и связанными с этим "мерами" по пресечению широкого распространения программы. Грубо говоря, чтобы эту "бесплатную" программу получить, нужно пройти через огонь, воду и геморрой. Я, скажу честно, слил ее с каких-то файлообменников (но, к сожалению, версию почти десятилетней давности).
2) Косячно-кривой реализацией бесплатного ГУИ (рисовалки, сама ATP-EMTP -это такой досовский монстр, куда надо вводить электрическую сеть текстом О_О), который называется ATPDraw. Я, помнится, весь извелся, пока все это хозяйство не начало хоть как-то работать. Рисовать неудобно, комплексы токов отображаются не пойми как (а в старых версиях ГУИ так вообще см. какой-то текстовый файл).
Есть платный гуи (ATPDesigner вроде), он лучше гораздо... но с ограничениями (вроде бы нельзя задать больше одного источника ЭДС).
В принципе, графики, которые выводятся (синусоиды всякие) можно перевести в формат, читаемый матлабом через какой-то один графикопостроитель (о да, графики там тоже строятся отдельной прогой, которую надо указать...)

А там есть какие-то проблемы, связанные с тем, что надо указывать организацию, проверками (кто такой, откуда, зачем)? Или просто по бюрократии - запросил-получил?

Матриц, что ли?
Есть в ATP-EMTP такая утилита BCTRAN (и какие-то еще вроде). Она по введенным в программу данным синтезирует матрицы. Но там логика не сказать, чтобы очень сложная (хотя не совсем привычная), можно и так эти матрицы посчитать.
В принципе, трансформаторы и в симулинке задаются нормально, там же есть блоки под это дело.