Как сделать меню конфигурации при сборке как у ядра linux?

Посмотреть исходники?

Пробовал, там черт ногу сломит

Так какая цель? Что-то понажимать и сгенерировать Makefile?

Да

mkdir build && ccmake3 ..

man dialog https://www.opennet.ru/man.shtml?topic=dialog&category=1&russian=2

и много-много bash ;-)

сейчас не в курсе,но помнится были ещё цели make tkconfig xconfig..

Тогда увы, ничего лучше, чем CMake и cmake-curses-gui не посоветую.

Если на этапе сборки — то использовать ту же систему сборки, что и ядро, а именно Kbuild.

Она много где используется — в частности, в seabios и busybox.

https://docs.kernel.org/kbuild/index.html

Если хочешь именно TUI в программе, то man 3 dialog.

Вот ещё про dialog (можно бросить этот непонятный Си и писать на шелле):

• https://aplicacionesysistemas.com/en/dialog-crear-menus-tus-scripts/
• https://linuxgazette.net/101/sunil.html

Да, есть проекты, которые подобное используют. Kconfig, Kbuild