LINUX.ORG.RU
ФорумAdmin

Инкрементальный бекап LVM снапшотов


0

4

Есть некоторое количество БОЛЬШИХ файлов, порядка 100-400 ГБ. В этих файлах периодически меняются данные, но мало. Порядка десятков-сотен мегабайт в сутки.

Вопрос: чем можно инкрементально все это хозяйство бекапить? Например: бекап раз в сутки, храним файл на 200 ГБ + дифф за каждый день. Размер диффа соответственно несколько десятков-сотен мегабайт. Итого, в день менялось по 100 мб ~ гигабайт изменений за десять дней. На выходе имеет 200 гб, и 1 гб диффов. Соответственно можно восстановить любой из дней.

Из того что нашел: rdiff-backup какой-то кривоватый, не понравился. Да и отзывы про него не особо хорошие.

Есть утилита rdiff(и аналоги типа xdelta) - но к ним надо писать скрипт-обвязку. Не хочется изобретать велосипед.

Кто как выходит из такой ситуации?

з.ы. Вариант бекапить не снапшот не рассматривается, по ряду причин.


Есть вариант делать раз в день LVM снапшот и оставлять его. Удалять снапшоты старше 7 дней. Да, может (я не уверен) пострадать скорость записи. Надо обратиться к документации LVM, как там устроено CoW. (Я боюсь, что при записи в оригинальный том, LVM копирует прежние сектора во все снапшоты, сделанные из этого тома).

Bers666 ★★★★★
()
Ответ на: комментарий от DALDON

rsnapshot не канает. Он использует хардлинки, т.е. при изменении хоть 1 бита в файле размером 100Г, ты получишь 2 файла по 100Г в бакапе.

Bers666 ★★★★★
()
Ответ на: комментарий от Bers666

А по другому и никак... Откуда программа резервного копирования узнает в каком месте этот самый бит изменился?

DALDON ★★★★★
()

Я свелосипедил простой скрипт к xdelta3, результаты пока неплохие.

madgnu ★★★★★
()
Ответ на: комментарий от Bers666

LVM снапшоты никакие не снапшоты, а обходной доступ к снимку файловой системы на определённый момент времени через виртуальное устройство /dev.

Юзайте dump/restore на живой файловой системе UFS2. Утилиты позволяют работать с инкрементными данными.
Ссылка на статью: http://vds-admin.ru/backup/dump-i-restore-rezervnoe-kopirovanie-i-vosstanovle...

iZEN ★★★★★
()
Ответ на: комментарий от vertexua

Почему в помойку?

Linux до сих пор не имеет ФС, которые можно безболезненно дампить и ресторить на блочном уровне, не прибегая к отмонтированию.

iZEN ★★★★★
()
Ответ на: Почему в помойку? от iZEN

Твоя проблема не в том что ты занимаешься фаллическим редукционизмом (свод любой темы разговора к ... FreeBSD), а в том что не читаешь заголовков темы. Тебя в этом треде по идее не должно быть, ведь уже сказано что LVM

vertexua ★★★★★
()
Ответ на: комментарий от DALDON

>А по другому и никак... Откуда программа резервного копирования узнает в каком месте этот самый бит изменился?


rdiff-backup делает бинарный diff. Цитата с сайта:

rdiff-backup uses librsync, which implements the same efficient diffing algorithm that rsync uses. It works on binary files as well as text, so only a fraction of the data in your database would be saved in each incremental backup.

Bers666 ★★★★★
()
Ответ на: Почему в помойку? от iZEN

>> Linux до сих пор не имеет ФС, которые можно безболезненно дампить и ресторить на блочном уровне, не прибегая к отмонтированию.

4.2.

GotF ★★★★★
()
Ответ на: комментарий от vertexua

Тебя в этом треде по идее не должно быть, ведь уже сказано что LVM

ВНЕЗАПНО: на LVM может быть UFS2.

iZEN ★★★★★
()
Ответ на: комментарий от GotF

The xfsdump utility backs up an XFS filesystem in inode order, and in contrast to traditional UNIX file systems which must be unmounted before dumping to guarantee a consistent dump image, XFS file systems can be dumped while the file system is in use. This is not the same as a snapshot since files are not frozen during the dump.

[backup] xfsdump vs dump (комментарий) Помнишь хоть, что сам нашёл? :))

iZEN ★★★★★
()
Ответ на: комментарий от iZEN

Ну помню. В чём проблема-то? Консистентно? Да. Онлайн? Да. Без привлечения [x]fs_freeze и снапшотов? Да.

GotF ★★★★★
()
Ответ на: комментарий от GotF

Так xfsdump/xfsrestore не поддерживают инкрементного образа ФС или поддерживают? (сомневаюсь)

Пробовал работать с этими утилитами — напиши, что да как. Какие нюансы открылись. В сети информации по ним ноль целых, одна тысячная. По-моему, эта тема от твоего мнения не обеднеет.

iZEN ★★★★★
()
Ответ на: комментарий от iZEN

> Так xfsdump/xfsrestore не поддерживают инкрементного образа ФС или поддерживают? (сомневаюсь)

А ты не сомневайся, ты ман прочитай.

AnDoR ★★★★★
()
Ответ на: комментарий от iZEN

Поддерживают. Автору темы от этого пользы нет, потому что единицей инкремента выступает отдельный файл (или его отсутствие), а не бинарный дифф :)

GotF ★★★★★
()
Ответ на: комментарий от DALDON

Там написано, что он лопатит как бинарные данные, так и текст, а не то, что он интерпретирует их как текст.

madgnu ★★★★★
()

делаешь mount -o remount,ro <чтототам> lvm snapshot <чтонужно> mount -o remount,rw <чтототам> И будет тебе счастье

TOXA ★★
()
Ответ на: комментарий от madgnu

Да это понятно, просто это я не думаю, что будет быстро для файла в 100 гб. Понимаете? Пока он там найдёт куда новый байтик затисался...

DALDON ★★★★★
()
Ответ на: комментарий от DALDON

ну, по моим тестам, это происходит все же быстрей, чем копирование всего 100Гб-файла :)

madgnu ★★★★★
()

Итого, за минусом холиваров и срачей:

1. rsnapshot не подходит(там действительно линки на файлы, и он будет храниться целиком, если там изменился 1 байт)

2. Про rdiff-backup я написал в первом сообщении. Не производит впечатления нормального решения, в плане реализации. Какие-то ерроры на устаревшие конструкции питона падают, и т.д. По функционалу - то, что нужно.

3. Хранить снапшоты прямо в ЛВМ, не удаляя - хреновая идея. Оно со временем тормозит. Да и речь идет о бекапе не за неделю, а месяца за три.

4. Велосипед к xdelta и rdiff - пока единственный вариант. Но очень хотелось бы его НЕ изобретать. ( товарищ madgnu, выложи куда-нибудь свой велосипед, пожалуйста. Посмотрю как сделано)

Какие еще предложения?

Еще раз повторю - суть не в том что это снапшоты lvm(точнее их дампы). Считайте что есть просто файлы большого объема.

ficile
() автор топика
Ответ на: комментарий от ficile

>3. Хранить снапшоты прямо в ЛВМ, не удаляя - хреновая идея. Оно со временем тормозит. Да и речь идет о бекапе не за неделю, а месяца за три.

У тебя же записи мало. А тормозить (да и то, не факт, что заметно) оно будет только на запись, не на чтение. Попробуй.

Bers666 ★★★★★
()
Ответ на: комментарий от Bers666

Записи много. В lvm томах лежат диски виртуальных машин. Так что не вариант. Да и не надежно. Если навернется группа томов - то вместе с бекапами. Зачем нужен такой бекап?

ficile
() автор топика
Ответ на: Почему в помойку? от iZEN

тьфу ты, xfsdump конечно же, freeze - это шняга... Надо больше спать и меньше работать...

Pinkbyte ★★★★★
()
Ответ на: комментарий от Pinkbyte

а что мешает изменить схему разделов, чтобы нужные директории находились в отдельном томе lvm

TOXA ★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.