Linux падает с SMT на Zen 4

машины грузят одно ядро на 100%

Все 10+ виртуалок грузят одно ядро? т.е. в хосте загружено только одно ядро из 100?

Выглядит так, что неправильно работает scheduler в ядре хоста. Косвенным подтверждением этого является то, что при отключении SMT все становится нормально.

Какие опции в ядре в Processor type and features? Касательно SMT и scheduler?

CONFIG_SHED_CLUSTER и пр?

Поэкспериментируй с ними… Ну и еще может гадить всякие mitigations – можешь попробовать всю секцию отключить, для проверки предположения.

Грузят разные ядра на хосте, mitigations отключал - влияния 0 Конфиг ядра дефолтный debian 12

Конфиг ядра дефолтный debian 12

Залезь и посмотри все, что относится к scheduler, smt, virtio, iommu, и пр., нужное для виртуалок. Дефолтные конфиги не супер.

после запуска хост намертво зависает без каких-либо ошибок вообще.

Что в логах? И если есть возможность посмотреть, то что на консоле кажет.

Все пусто, в том числе консоль

Возможно, что стоит начать с указания материнки и версии bios и AGESA

Не исключено что это хардварной проблемой может оказаться. Но я бы для начала посмотрел логи, ну и у qemu дебаг повыше поднять, но это только мое имхо.

Покажи еще выхлоп sensors или ipmi при нагрузке. Может быть это происходит из-за недостатка ваттов, которые может отдавать материнка.