В сети имеется 12 машин (скорость сети составляет 1 Gbit/s от каждой до каждой машины). Между машинами есть беспарольный rsh, можно настроить rsync. На каждой из машин есть большой и быстрый RAID, на котором рядом хранится ~200 директорий с данными, _примерно_ по 2 GB в каждой. Для каждой директории известно, на какую машину ее надо скопировать и под каким именем, например:
host1:data-for-host2-part-3 => host2:data-from-host1-part-3
Бывает и так, что данные в конечном итоге нужны на той же самой машине.
Задача - скопировать скриптом все куда надо максимально быстро.
Решение "запускать все копирования параллельно и пусть TCP-стек все разрулит" в принципе работает, но при таком подходе, как правило, копирование одной или двух директорий обваливается из-за сетевых ошибок.