Почему при компиляции ядра включены -mno-sse -mno-mmx и подобные?

Где включены? Наверно ты собираешь i386 ядро, оно должно запускаться в том числе и на процах без mmx (первый пентиум).

Эти флаги нужны, чтобы компилятор не задействовал соответствующие регистры в генерируемом коде. В коде ядра много завязано на то, что оно само никогда не трогает эти регистры без (дорогостоящего) сохранения и последующего восстановления. Если компилятор задействует эти регистры где попало, будет порча данных в выполняющихся процессах.

-mno означает выключить, ибо отлаживать такое разработчикам лень

/thread

Ядро собранное без них у меня даже не запустилось.

Пользуюсь https://github.com/graysky2/kernel_compiler_patch.

Потому что в ядре нет тяжёлых вычислений с плавающей точкой и оно может обойтись без аппаратного ускорения таких операций. В отличии от пользовательских приложений.

При этом для операций с плавающей точкой с аппаратным ускорением используются всякие штуки типа MMX, SSE и т. д., которые имеют свои регистры, отдельные от регистров центрального процессора. И их пришлось бы отдельно сохранять и восстанавливать при каждом системном вызове, чтобы что-нибудь не испортить в работе пользовательского кода.

А так они сохраняются и восстанавливаются только при переключении пользовательских процессов, а не каждый системный вызов.

Таким образом повышается производительность.

SHA1, AES, SSSE3 не нужны что ли для ускорения работы ядра

Ну, наверное, там где они нужны, они будут либо реализованы на асме, либо именно эти исходники будут собраны с нужными флагами (я что-то неприпомню, чтобы у GCC были инстринсики для хеширования и шифрования), а код вызывающий их будет заботиться о сохранении и восстановлении состояния пространства пользователя.