ulimit

>Действительно ли, что ulimit не работает?

Ну так возьми да протести.

>прочёл и оффиггел.

Инфа по ссылке несколько протухла, btw, с ноября 2007 года много воды уж утекло.

Да это так. В linux не так просто ограничить "память". Можно ограничить RLIMIT_DATA, адресное пространство процесса RLIMIT_AS и стек RLIMIT_STACK.

RLIMIT_DATA обходится за счет mmap()
RLIMIT_AS создает проблемы при подключении многих разделяемых библиотек или использовании shmem.