Как будет быстрее работать grep?

Причем одновременно несколько копий grep ( кол-во копий = кол-ву процессоров )

Ну и упрётся оно у тебя в I/O.

Попробуй и отпишись. Теоретически, если файлы лежат одним последовательным куском, то даже на HDD будет быстрее не параллелить, чтобы не было лишних сиков. А если они у тебя валяются, как попало, то возьми и посмотри сам.

Копируешь всё в tmpfs и запускаешь в несколько потоков по количеству ядер.

что значит запустить в несколько потоков и как это сделать? Так как я написал или по-другому?

Выгоднее всего было бы наверное разбить на количество порций по числу процессоров, и кстати есть grep -r ещё.

Так как на запуск самого grep есть некоторый оверхед.

Давай еще подсказоньку.
Сколько файлов, какого размера, конфигурацию железа

Ну в несколько процессов, да.

или если я буду запускать grep отдельно для каждого файла?

Быстрее будет только если grep ищет медленнее, чем читает данные с диска, в чём я сильно сомневаюсь.

Но попробуй, чо уж там

find -name 'ololo*.txt' -type f -print0 | xargs -0 -n 50 -p 4 grep 'text to search'

Можешь поиграть с параметрами -n 50 (количество файлов на процесс) и -p 4 (количество процессов), чтобы понять, как быстрее в твоём случае.

man ack, man ag.