Тут нет противоречия. Реле мощности (индукционное, типа ИБМ/РБМ или аналогичное) имеет вполне конечную минимальную мощность срабатывания. Даже если "тригонометрическая" часть в формуле равна единице, чтобы барабанчик повернулся и реле замкнуло контакт, нужна некоторая мощность. Для широко известных реле направления мощности нулевой последовательности РБМ 177 и РБМ 178 это 3 ВА и 1 ВА.  т.е. при токе в обмотке реле 0,3 А напряжение должно быть 10 В. На что расходуется эта мощность? Главным образом на преодоление сопротивления возвратной пружины и, в меньшей степени, трения в подпятнике. Зачем возвратная пружина? Не знаю, можно ли говорить с вами о таком "отвратительном" явлении как "самоход", не разрушит ли оно ваши представления о РНМ :) К тому же нельзя забывать о необходимости надёжного возврата реле после срабатывания.
  В итоге реальная характеристика РНМ не проходит через ноль, даже на угле максимальной чувствительности область срабатывания реле (в осях Ip, Up) отстоит от нуля не величину Sср мин, вот эту самую минимальную мощность срабатывания. Остальные точки этой полуплоскости, очевидно, ещё дальше. Обратите внимание на рис.1 в инструкции по проверке правильности включения РНМ.
  Обращаю ваше внимание. что "тригонометрическая" часть в характеристике самая главная, как сказали бы в Простоквашино, "мы его (реле направления мощности" для этого и берём". Остальное - более или менее неизбежное зло. Момент реле (момент сил, поворачивающих барабанчик) зависит главным образом от угла между векторами Up и Ip и  пропорционален мощности на зажимах реле, величина же коэффициента К в формуле более или менее постоянна и введена для учёта самоходов, затяжки пружины, насыщения при больших токах. К сожалению, ничего идеального не существует.