:(){ :|:& };:
для понятности заменим : именем f и отформатируем код.
f() {
f | f &
}
f
таким образом это функция, которая параллельно пускает два своих экземпляра. Каждый пускает ещё по два и т.д.
При отсутствии лимита на число процессов машина быстро исчерпывает физическую память и уходит в своп.