Кажется, по реле  ДЗТ-11 есть методические указания по техобслуживанию. Во всяком случае, можно пользоваться справочником под ред. Мусаэляна, в первом издании есть и схема реле. Вызывает недоумение регулировка одновременно и тока срабатывания исполнительного органа. и напряжения срабатывания, у "простых" РТ 40 напряжение не контролируется. Если не вдаваться в то, почему для реле с НТТ это (напряжение срабатывания) важно, то просто проверьте это. Проверьте механическую регулировку реле, потом или заклиньте его палочкой  в положении несрабатывания, или переведите поводок до отказа вправо, и измерьте напряжение на обмотке исп. органа при токе 160-170 мА. Вольтметр должен бытьь высокоомным, реагирующим на действующее значение. Использовать "ламповый" вольтметр В3-38 с классом точности 4,0 не обязательно, наверное, подойдёт и современный мультиметр, если у него первый предел не 200 В. В общем, напряжение 3,5-3,6 В на обмотке исполнительного органа  надо измерить поточнее.
С одной установкой У5052 вам не снять тормозную характеристику, нужен второй источник тока.
Будьте осторожны со схемой токовых цепей дифзащиты. Прежде чем что-то разбирать, обязательно зафиксируйте исходное положение. Хорошо бы проанализировать схему токовых цепей заранее. Если что-то вызывает вопросы - разберитесь до того, как отсоедините первый конец. Не раз бывало, что вывели трансформатор - а ввести не могут, не могут правильно собрать дифзащиту.
Подумайте, как вы будете проверять защиту рабочим током. Есть ли достаточной величины нагрузка на трансформаторе, или нужно что-то предпринять. Посмотрите в отчётах (журнале по РЗА), были ли при этой схеме дифзащиты внешние КЗ, при которых защита работала правильно (т.е. не работала). Тогда, скорее всего, она собрана правильно.
Реле и защита очень массовые, думаю, материала вы найдёте в сети много. Я вот по этой ссылке я скачал последние советские методические указания. Гуглите и обрящете :)  Там есть и образец протокола.