Вариант только наоборот: 10Р - Диф.защита, а 0,5S - Учет и МТЗ. Таких вариантов встречалось много, а вашего - ни разу.
При внешних КЗ диф.защита на керне 0,5S может повести себя не очень хорошо.

Значение тока небаланса для дифзащиты определяется различием значений токов намагничивания ТТ. Следовательно, для уменьшения тока небаланса необходимо выравнивать токи намагничивания по значению и фазе. Ток небаланса возрастает при увеличении первичного тока и вторичной нагрузки. Ток Нб особенно возрастает при работе в области насыщения ТТ, так как небольшое расхождение в их характеристиках намагничивания вызывает большое различие в токах намагничивания. Поэтому стремятся к тому, чтобы при максимальном токе внешнего КЗ магнитопроводы ТТ не насыщались и работали в линейной части характеристики.
Этому требованию наилучшим образом удовлетворяют ТТ класса Р.

Чтобы решить, можно ли использовать ту или иную обмотку необходимо провести расчеты  нагрузку вторичных обмоток ТТ.
Допустимые значения нагрузки вторичных обмоток, при которых ТТ работают в линейной части характеристики намагничивания, выбираются по кривым предельной кратности, обеспечивающим погрешность ТТ не более 10%

Так делать нельзя. Диф.защиту нельзя подключать к обмотке с классом точности 0,5S, а учет - к 10Р.

Можно, но после проверки расчетами.

Что за случаи? Какие были защиты и параметры транса при этом?

Похоже, что у вас теперь нет ни нормального МТЗ, ни нормального учета.