а если кабель экранирован? не интересовался раньше этим вопросом, можете подсказать литературу почитать?

РУ 11 - там есть пример для расчета экранированного кабеля.
Только мне не нравится там то, что нету толкового описания, как считать собственные сопротивления и взаимоиндукции нулевой последовательности набора параллельных кабелей по отдельности - там их по кой-то черт параллелят.
Конечно, я могу себе представить, как нужно развязать параллельные кабели, но в моем представлении будет лютый геморрой - нужно посчитать вначале 1й кабель в работе+ оболочки от всех, 2й кабель в работе+ оболочки от всех и т.д, далее все кабели в работе + оболочки от всех, далее записать законы Ома и Кирхгофа, после чего развязывать магнитные связи.

Есть книжка Дмитриев Заземление экранов однофазных силовых кабелей 6-500 кВ. Там кое-что есть, но вроде бы (я уже забыл, разбирался с этим примерно в июне) там тоже мутно написано.
Вроде стр. 34 есть формулы. Также есть EMTP Theory Book, но там что-то мутно тоже.  Руки, как назло, до написания нормальной программы по расчету кабелей не дошли - завалили всякой посторонней мутью.

Это недопустимо. По закону полного тока, ток нагрузки каждой жилы будет протекать по трубе и кабель будет греть.

В смысле "по трубе"?  почему по трубе?
На всякий случай: речь о трехфазной сети, кабели фаз А, B, C, каждый в своем трубе

Это недопустимо. По закону полного тока, ток нагрузки каждой жилы будет протекать по трубе и кабель будет греть.