Именно так и получается - "под свой проц писать свой компилятор".
Я под свои процы их уже два написал.
Просто когда я делал первый проц, я, так же, как и вы, задавался вопросом о необходимом
и достаточном наборе команд.
И пришел я к выводу, что полноценного ответа на этот вопрос просто нет.
А для себя я выработал ту методику, о которой вам тут написал:
Закономерность здесь такова, что увеличение числа команд требует увеличения аппаратных ресурсов.
И в какой-то момент надо прийти к компромиссу и остановиться.
Для меня, к примеру, было шоком, что в системе команд
PDP-8 нет таких привычных команд,
типа
MVI A,NNh;
есть только команды типа:
Обошлись они без
MVI A,NNh, а
PDP-8 - легендарная машина...