pam limits

Может ты имел в виду ограничить колличество дозволенных к запуску процессов?

про директивы nproc я знаю, интересует cpu, но принцип работы у нее не тот, который мне бы хотелось.

Хорошо, расскажи поподробнее о том, как ты это видишь..

А ты вообще в курсе как скачет использование ЦПУ в процентах скажем при grep'ании каких-нибудь объемных логов?

Это неправильный подход. Ну ограничивай их по "cpu - max CPU time (MIN)" чтобы долго не грузили.