LINUX.ORG.RU
ФорумAdmin

быстро передать образ по сети


3

3

Надо быстро перелить образ диска по гигабитной локалке. Как? Я пока делают вот так:

cat /dev/sda | lrzip -l -p 7 | pv -r -a -p -B 1073741824 | \
ssh -c arcfour backup 'cat > /home/img/fx.img.gz'    

Недостатки: лишний cat (lrzip не хочет читать из блочных устройств напрямую), не задействованы все ядра (150% cpu жрёт при наличии 8 ядер), и нужен pv т.к. lrzip работает как-то .. рывками. Есть идеи как это можно сделать быстрее? Проц fx-8120, 16 гиг оперативы.

★★★★★

Ответ на: комментарий от false

pbzip2?

мм, мне кажется bzip это очень медленно, даже если ускорить в разы.

netcat же есть.

лень ставить, пока в это не упирается :(

true_admin ★★★★★
() автор топика
Ответ на: комментарий от devl547

возьми pxz.

Ему, похоже, памяти не хватает, оно доходит до 15 гиг и ...

# cat /dev/sda | pxz -4 > /dev/null                                                                                          
Segmentation fault (core dumped)

Настройки компрессии не влияют, оно всегда жрёт много памяти. Кстати, я не вижу чтобы pxz размазывало на несколько процов.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

Повторил эту команду на своей генте (кстати, тоже 8120+8 гигов оперативы).
Отожрал все 8 ядер и работает как надо.

devl547 ★★★★★
()
Ответ на: комментарий от true_admin

Какого размера у тебя /dev/sda?

250 гигов чтоль.

А памяти сколько жрёт?

Мало, от 50 до 120, но у меня uksm.

devl547 ★★★★★
()

лишний cat (lrzip не хочет читать из блочных устройств напрямую)

Читай напрямую pv

не задействованы все ядра

pigz/pbzip2

и нужен pv т.к. lrzip работает как-то .. рывками

Ну так может он сначала жмет, потом отдает? Оно тебя беспокоит?

YAR ★★★★★
()
Последнее исправление: YAR (всего исправлений: 1)
Ответ на: комментарий от YAR

Оно тебя беспокоит?

При таких ключах и совместно с pv нет: lrzip -q -l -N 0 -p7 -w 1

Правда, я не уверен что -w на что-то влияет. И мне не удалось его заставить жрать все ядра.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

Нет, я имею в виду - оно реально какую-то пользу приносит? Есть разница в скорости копирования?

YAR ★★★★★
()
Ответ на: комментарий от YAR

оно реально какую-то пользу приносит?

пытался померять, сходу непонятно. Поэтому я тупо оставил копирование пока обедал. Сейчас уже всё скопировалось, проверять не хочется. Возможно, lrzip сам внутри делает буферизацию.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

lrzip сам внутри делает буферизацию.

Коливас его не для таких вещей делал)

devl547 ★★★★★
()
Ответ на: комментарий от tazhate

Ну и не всегда в гигабит упирается, у меня на том конце медленный винт который может и забуксовать.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от tazhate

А, ты в бекапных целях?

обновляю прошивку на ssd, в мануале сказано что после этого капут всем данным.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

Ну и не всегда в гигабит упирается, у меня на том конце медленный винт который может и забуксовать.

Для этого есть озу и кеши.

tazhate ★★★★★
()
Ответ на: комментарий от true_admin

обновляю прошивку на ssd, в мануале сказано что после этого капут всем данным.

А, ясно. А не легче тупо внешний винч по usb3 воткнуть?

tazhate ★★★★★
()
Ответ на: комментарий от riki

Тогда скажи, почему нужен именно образ раздела, а не .tar.bz2 файловой системы?

там их штук пять и три ОС, мне не охота с ними всеми возиться индивидуально.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от tazhate

А не легче тупо внешний винч по usb3 воткнуть?

У меня его нет.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от tazhate

Для этого есть озу и кеши.

Не справляются. Да и 12309 никто не отменял, у меня даже курсор с экрана исчезает в таки моменты. Арчеядро, блин.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от kernelpanic

Последнюю. Если не поможет то я не знаю что делать. Будет внешним венником для бэкапов. Проблема следующая - оно отваливается либо через три-четыре дня, либо после гигов 20-30 плотного io.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

Это которая 040H? Я заливал. Ничего никуда не пропало, да и в мануале я ничего не видел про "капут всем данным".

kernelpanic ★★★★★
()
Ответ на: комментарий от kernelpanic

Это которая 040H? Я заливал. Ничего никуда не пропало

Ну и слава богу. Но с бэкапом мне спокойнее.

Арчеядро - это ванильное ядро:)

вопрос в конфиге

true_admin ★★★★★
() автор топика

Надо быстро перелить образ диска по гигабитной локалке. Как? Я пока делают вот так:

А оправдано ли в данном случае сжатие? Какая скорость последовательного чтения с диска?

router ★★★★★
()
Ответ на: комментарий от tazhate

Приоритет понизь.

Не помогает.

pf-kernel накати.

Попробую.

true_admin ★★★★★
() автор топика
Ответ на: комментарий от router

А оправдано ли в данном случае сжатие?

на удалённой стороне нет 64гиг свободного места. Есть 32.

true_admin ★★★★★
() автор топика

Что-то как я ни гонял файло через ssh, скорость всегда падала катастрофически. Поэтому если надо быстро-быстро, то шлю всегда без ssh.

thesis ★★★★★
()
Ответ на: комментарий от true_admin

Я лучше данные сожму чем буду менять мамку, оперативу, проц и жёсткий диск.

Буферы увеличь, а не железо меняй :)

tazhate ★★★★★
()
Ответ на: комментарий от thesis

Надо бы перемерять.

Есть куча док в гугле. Правда, нормальную сложно найти. Вот здесь можно на глаз оценить: http://www.scribd.com/doc/3030590/Speed-up-scp-file-transfer

Лучше заново померять. В совсем-совсем простом тесте у меня arcfour в три раза быстрее того что по дефолту. Мерял так: time { dd if=/dev/zero bs=1M count=500 | ssh -c arcfour localhost «cat >/dev/null»; }.

true_admin ★★★★★
() автор топика
Последнее исправление: true_admin (всего исправлений: 1)
Ответ на: комментарий от true_admin

спасибо, попробую. Пришло время встретить застарелую фобию лицом к лицу!

thesis ★★★★★
()
Ответ на: комментарий от true_admin

crucial m4, регулярно отваливается в этой тачке.

4.2 же. В мануале написано - бэкапьтесь, бэкапы - это святое.
Сразу видно, что ты никогда эту самую прошивку не обновлял, только троллишь жиденько.

pekmop1024 ★★★★★
()
Ответ на: комментарий от pekmop1024

только троллишь жиденько.

Сосямба:

WARNING: The Firmware update is destructive to the data on the SSD and on the flash drive being created as bootable media. Your data will be lost. 

true_admin ★★★★★
() автор топика
Ответ на: комментарий от true_admin

http://edge.crucial.com/firmware/m4/040H/Crucial_m4_Firmware_Update_040H.pdf

WARNING: As with all firmware updates, it is strongly
recommended that you backup or make copies of all important
files before performing this update. This firmware update process
is done entirely at your own risk. If performed correctly, there
will be no loss of system or user data on the drive. However, if
the firmware process is interrupted for any reason, your solid
state drive may not function properly. If this update is done on
a notebook computer, it is strongly recommended that power
be supplied by the AC power adapter.

kernelpanic ★★★★★
()
Ответ на: комментарий от kernelpanic

Я ответил на вопрос откуда я взял что апдейт уничтожает инфу. Какие ко мне претензии если у них противоречивые данные на сайте? Я не сам выдумал, я привёл цитату.

true_admin ★★★★★
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.