LINUX.ORG.RU

[loroogle] Мультипоточный WGET

 


0

2

Есть задача: по крону скачивать энное количество страничек, указанных в файле, в /dev/null. Собственно, WGET делает это в один поток, а мне нужно в несколько. Чем такое лучше сделать?

Вариант с разрезанием списка закачек на несколько частей мне не нравится.

★★★★

> Вариант с разрезанием списка закачек на несколько частей мне не нравится.
Ну и зря.

urxvt ★★★★★
()

>Собственно, WGET делает это в один поток, а мне нужно в несколько.

xargs

lazyklimm ★★★★★
()
Ответ на: комментарий от urxvt

Так и сделал в результате.

riki ★★★★
() автор топика
Ответ на: комментарий от xtraeft

awk-ом считаем строчки в файле, делим на 10, split.

for f in $FILES
do
    wget -b -i $f -O /dev/null
done

Как-то так. Работает же :)

riki ★★★★
() автор топика
Ответ на: комментарий от xtraeft

Файл - список урлов по одному на строку. awk потому, что только что я целый день юзал его для парсинга других логов. Знаешь, когда в руке топор и надо забить гвоздь, за молотком лень тянуться :)

riki ★★★★
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.