OpenZFS 2.3.0

Стоит ли смотреть в сторону этой ФС домашнему десктопному линуксоиду, в настоящий момент сидящему на ext4, и критически важная часть файлопомойки которого сводится в основном к большому количеству фоточек и видеороликов (которые однако хотелось бы сохранить в целости)? Или для него и ext4 выше крыши?

Если ты не собираешься делать RAID и подобные штуки, то зачем тебе ZFS?

причём тут raid?

у нас по первости у большинства просто тупо зеркала были, для этого zfs не нужна, но вот снимками многие пользовались, очень удобно было, особенно при обновлениях солярки

у нас по первости у большинства просто тупо зеркала были, для этого zfs не нужна, но вот снимками многие пользовались, очень удобно было, особенно при обновлениях солярки

и подобные штуки

Типа, у меня на досктопе ZFS нужна в основном ради L2ARC и пересылки снапшотов в бэкап. RAID тоже есть, но его можно другими средствами легко сделать.

э…просто у людей это были совсем не десктопы.)))

и zfs некоторым реально жизнь облегчило - то же обновление теперь требовало всего 1 ночь если надо было вернуть обратно, а не развёртывать всё взад с лент. эт просто как пример. и я не только про ОС, атм как раз попроще с этим. а про базы и т.п.

Мне осталось 15 шкворца до 1000. Потом можно будет квест начать.

Шо, врубить Кащенку так, что бы всю тыщу списали и потом опять копить?

Типа, у меня на досктопе ZFS нужна в основном ради L2ARC и пересылки снапшотов в бэкап.

Ну если тебе снапшоты нужны и месье понимает толк в извращениях, то в добрый путь, как грится.... :)

Потому, как есть серверная сборка Убунты. Типа тоже самое, но без морды. Я такую обычно на виртуалки для разработки под клиентские хотелки ставлю. Нам морда не нужна.

Я к тому, что Mint основан на Ubuntu, и поддержка ZFS должна бы достаться им бесплатно.

Ну если тебе снапшоты нужны и месье понимает толк в извращениях, то в добрый путь, как грится…. :)

Инкрементальные бэкапы – это очень и очень круто и удобно, особенно когда количество данных сравнимо с размерами дисков и хранить отдельные копии тупо дорого.

Шо, врубить Кащенку так, что бы всю тыщу списали и потом опять копить?

Мой план гораздо более утончён и изыскан!

Я к тому, что Mint основан на Ubuntu, и поддержка ZFS должна бы достаться им бесплатно.

Как пакадж — да. Они же некоторые пакеты под себя пересобирают. По крайней мере те, которые инсталлятор тянет. Опять же, Бубунта предлагает на ZFS поставиться. А это инсталлятор переписывать, тестировать, мантейнить...

Ну если тебе снапшоты нужны и месье понимает толк в извращениях, то в добрый путь, как грится…. :)

Инкрементальные бэкапы – это очень и очень круто и удобно

Снапшоты и инкрементальные бакапы - немного разные вещи.

ТС вроде и не говорил, что одинаковые. Спапшоты zfs поддерживают инкрементальные бекапы, всё остальное отсюда следует.

… Спапшоты zfs поддерживают инкрементальные бекапы, всё остальное отсюда следует.

Т.е. если навернулся носитель, я смогу восстановить ФС из снапшотов на другом носителе?

… Спапшоты zfs поддерживают инкрементальные бекапы, всё остальное отсюда следует.

Т.е. если навернулся носитель, я смогу восстановить ФС из снапшотов на другом носителе?

Если ты их туда послал через zfs send.

Да, см. коммент выше (:

ZFS это не только volume-менеджер, но и крутая файловая система.

У той же ext4 банально нет контрольных сумм для данных. При их физическом повреждении на диске (т.н. bitrot), бэкап может пройти штатно (диск может просто не заметить возникшей ошибки), а когда хватишься (например, через несколько лет) - бэкапы с ещё целой версей файла уже может оказаться перезаписанными. Усё, не видать своих биткоинов, или любой другой ценной инфы.

ZFS и BTRFS же сгенерируют ошибку чтения во время создания бэкапа или во время scrub, вовремя привлекя тем самым внимание пользователя (не забываем настроить уведломления на почту в ZED при возникновении проблем с пулом). В идеале, надо бы ещё память с ECC, чтобы избежать повреждение данных/метаданных в оперативке.

Для, ZFS, как и любая другая Copy-on-Write ФС будет медленнее ext4, но современные NVMe-диски минимизируют влияние просадки произодительности на реальный опыт испльзования. В некоторых задачах, грамотно затюненная ZFS может оказаться даже быстрее, за счёт хитрого многоуровневого кеширования и использования фич вроде отдельных накопителей для L2ARC/метаданных/лога, превращая кучу медленных HDD в массив с более-менее сносным IOPS. Зато CoW даёт приколюхи вроде снэпшотов, которые оценит даже вполне себе домашний юзер, получающий возможность сделать моментальный «бэкап» перед обновлением системы, например.

Все, что Вы написали — безусловная правда. Однако, все это требует a) хорошие диски в достаточном количестве; б) память с ECC; в) корпус под дисковый массив и место под него дома + надежную сеть; г) грамотный тюнинг; д) специалиста, который понимает, как и что делать и где тюнить. Вы предлагаете хорошую вещь энтерпрайз-класса для домашнего использования. Как Вы полагаете, средний домашний пользователь обладает компетенциями на пункты г) и д) и деньгами и ресурсами на первые три пункта?

a) хорошие диски в достаточном количестве;

Достаточное количество: 1

б) память с ECC

Нет.

в) корпус под дисковый массив и место под него дома + надежную сеть;

Смотри пункт а. Для снапшотов, чексумм и прочих плюшек достаточно одного диска в одном компе.

Как Вы полагаете, средний домашний пользователь обладает компетенциями на пункты г) и д) и деньгами и ресурсами на первые три пункта?

Средний домашний пользователь не знает, что такое файловая система. Но если сделать к тем же снапшотам гуй, юзеры будут ссаться кипятком. От Apple Time Machine же ссутся, а это ровно оно и есть.

Другой вопрос в том, что разработчикам ZFS на среднего домашнего пользователя насрать, да и на ЛОР средний домашний пользователь не заходит. Не вижу ни одной причины упоминать среднего домашнего пользователя в дискуссии.

Вот я — тот самый средний домашний программист, 35 лет за клавой. Да, я умею пользоваться Apple Time Machine (и есть на чем ей пользоваться, вон на аватаре восьмеричные счеты на макбуке) и его аналогом TimeShift в то же Минте. Хоть и не пользуюсь, мне бекапов на съемном диске хватает и DVD-шек для совсем уж чего-то старого, типа архива легаси от DEC.

Как тюнить ZFS я так и не узнал (но знаю, что не простое это дело), хоть и пытался с этим разобраться по работе. В мои прямые обязанности это не входило тогда, но интересно было.

Как настроить правильно и бесшовно домашний вайфай на TPLink Omada на две точки доступа c контроллером я тоже до конца не понял. Как-то настроил, но не до конца. До конца надо сертификаты всем раздавать и радиус-сервер где-то поднять. Пока тупо негде. Я — программер, а не админ, админские задачи просто не привык решать.

Если про надежность, то и ECC нужна, и диска желательно хотя бы два для зеркала. И третий диск для снапшотов.

Не вижу ни одной причины упоминать среднего домашнего пользователя в дискуссии.

Ну хорошо, средний домашний квалифицированный в своей области айтишник, не специалист по стораджам.

Вот я — тот самый средний домашний программист, 35 лет за клавой.

Ты просто старый, мы уже поняли.

Как тюнить ZFS я так и не узнал (но знаю, что не простое это дело), хоть и пытался с этим разобраться по работе. В мои прямые обязанности это не входило тогда, но интересно было.

Зачем её тюнить? Из коробки она даёт достаточно неплохую производительность.

Если про надежность, то и ECC нужна

Нет.

и диска желательно хотя бы два для зеркала.

Вообще нет. Если у тебя важные данные, делай бэкапы и желательно в другой комп.

И третий диск для снапшотов.

Для снапшотов не нужен третий диск.

Ну хорошо, средний домашний квалифицированный в своей области айтишник, не специалист по стораджам.

Для этого есть примерно вагон гайдов по настройке ZFS для домашнего компа. Которые сводятся примерно к тому, чтобы включить сжатие и выключить atime. Плюс по вкусу шифрование и подобное. Если средний айтишник слишком туп, чтобы прочитать инструкцию из пяти пунктов – что я вполне допускаю, на самом деле – то тут надо всю область нахрен закрывать.

Всё очень просто: если я разобрался в настройке ZFS примерно за полчаса на достаточном для моих целей уровне, а я – тот ещё пускающий слюну дебил, то у тебя не может быть никаких оправданий.

Ну, тут вопрос в том, насколько вы дорожите данными на своих дисках.

Если дорожите, то и деньги на второй диск, и на ECC-память найдутся (хотя, как отметили выше, это вовсе не обязательно для использования большей части фич).

Тюнить ZFS тоже нужно далеко не каждому, стандартные настройки адекватны.

Опять таки, «сложность» ZFS в значительной степени обусловлена всего лишь несовместимостью лицензии. Будь она под GPL, во всех дистрибутивах уже давно была бы возможность просто ставить её из коробки и «средний домашний программист» бы даже не задумывался о том, что там за файловая система у него стоит, просто пользуясь вкусными плюшками. Этот самый программист бы оценил возможность добавлять диски в пул одной командой, пользоваться снэпшотами, нарезать thin-provisioned датасеты для удобаства, да и просто быть уверенным в целостности данных.

Ладно, уговорил, буду собирать себе новый десктопный комп (а надо бы), так постараюсь с этим разобраться. А так на старом ноутбуке с дисками не особо разбежишься... :( Или какой-нибудь NAS, что бы коллекция книжек и киношек отовсюду дома была видна. Вот на NASe ZFSy самое место.

Вот на NASe ZFSy самое место.

С чего бы? Какие такие преимущества она даст по сравнению с ext4?

Это долго описывать. Дедупликация, снапшоты, volume manager....

https://dzen.ru/a/YQuHQmwmDwqOu05c

Так себе обзор, но для понимания годится

Это всё понятно, непонятно зачем это на насе, для которого достаточно обычного рейда, luks и lvm. А не вкорячивать левого монстра, чтобы посмотреть фильм.

Хотя бы для того, что бы научиться это делать; Без геморроя можно готовый QNAP или Свинолоджи купить :)

ZFS так-то неплохо жмет. Так что если у дядьки на NAS валяется куча легкосжимаемых данных, можно сэкономилить на слотах под диски, которых обычно не то чтобы уж очень много.

Ну если только книжки... Но pdf и дежавю сильно больше, чем текстовых fb2. А терабайт с лихером музыки особо не пожмешь. Да и процессор на сжатие нужно посильнее, стало быть мать дороже выйдет. Я вот буквально сегодня считал мать и шасси. Без дисков с алика коробка в полном сборе без дисков рублей в 25 выходит.

Ну если только книжки… Но pdf и дежавю сильно больше, чем текстовых fb2. А терабайт с лихером музыки особо не пожмешь

Код очень неплохо жмётся, в том числе бинарный. Куча других данных тоже. У меня вот база в постгресе на 400 гигов жмётся до 110 так.

Да и процессор на сжатие нужно посильнее,

У тебя Pentium 3 что ли? На проц это добавит единицы процентов нагрузки даже если ты пишешь на диск на максимальных оборотах. Это вообще не проблема, если твоему компу меньше 10 лет.

Я думаю что если там книжки, то пяти 16T дисков тебе хватит до конца жизни.

Очевидно же, чтоб заменить md, luks, lvm и ext4 одной сущностью. Сжатие, дедубликация zfs бонусом.

zfs неплохо себя и на ноуте, и на одноплатниках уровня raspberry pi 4 чувствует. Сжатие корня на ноуте с 512 Гб ssd высвободило порядка 100 Гб.

Это может быть проблемой, если пожадничал и выставил что-то типа zstd-19)

Книжки, фотки, музыка, не одноразовые киношки. Своим видеопродакшеном я не занимаюсь.

пяти 16T дисков

А денег на них дадите? :)

А просадка по скорости доступа и общей производительности какая?

Ты на фото с сигарой в смокинге сидел. У меня сложилось впечатление что ты обеспеченный человек.

Ну есть такое дело. :) Но пока все на зубы уходит :) Возраст, знаете ли-с подошел. Считай один имплант с коронкой как три диска :)

у меня в ZFS используется LZ4.

К слову, тут все про дедупликацию пишут, но она по факту бесполезна. На среднем компе нет такого количества дублирующихся блоков чтобы это играло роль. В итоге экономия выходит в единицы процентов.

На среднем компе расход памяти и машинного времени на эту дедупликацию делает ее совершенно неработоспособной.

Чтоб с циферками не замерял. Поставил максимальное сжатие, словил тормоза, стал постепенно уменьшать, пока тормоза не ушли. Таким образом с zstd-19 добрался до zstd-10 (по умолчанию вообще 3). Основным критерием была работа виртуалок с офтопиком.

Бенчмарки в студию. Потому что у половины здесь сидящих luks шифрование, которое требует куда более сложных вычислений. И ничего, все живы.

Ее хорошо включать для отдельных датасетов, где ожидаются дублирующиеся блоки. На личной файлопомойке лежат /backups и /Разобрать{2010..2024}, так 12% от 3,5 Тб не так уж и плохо.

Raspberry pi 4 8Gb сильно превосходит средний комп по мощам?

Почитай требования в любом мануале.

У luks требования не растут линейно с объёмом.

Raspberry pi

Это вообще неликвид для развода гиков.

Я знаю требования. Там гигабайт RAM на один TB. В среднем компе это и есть весь доступный сторадж.

Я баребон считал с алика. Вон тут рекомендуют нечто на селероне — https://aliexpress.ru/item/1005008143185137.html

Но, говорят, над ZFSом может и призадуматься.

Есть что-то подороже в том же форм-факторе, говорят туда i5 влезает. А ноут у меня действительно довольно старый, Lenovo W530. Вон уже начал по перегреву отключаться, термопасту менять надо. Я его тут продул из продувочного пистолета с компрессором, вроде полегчало.

Расход памяти не слишком большой: ~гигабайт памяти на терабайт данных. На среднем компе нет терабайта данных.

Я забыл, что средний комп - это 256gb kingspec.

~гигабайт памяти на терабайт данных.

Тогда я не понимаю, почему копирование на датасет с дедупликацией, размером ~5.5TB и памятю 16gb останавливалось до 0mb/s на промежутки в несколько минут.

Дедупликация в ZFS работает так, что лучше её не включать, а делать дедупликацию другими средствами.

А он не зря пишет, что приблизительно. Если для прошлых версий, то там 320 байт на блок, размер которого, разумеется, может меняться...

ох, не знаю. Наверное, во мне говорит врождённое нищебродство вместе с жабой и шепчет, что потребность ARC минимум(!) 1 - 2 гига на терабайт, это излишняя роскошь для дома.

Поэтому btrfs там, где имеют смысл относительно частые снапшоты, XFS во всех остальных случаях.

Ну вот меня тоже это смущает. 16 гигов памяти на сторадж — больно жирно. Это ж планы и хотелки все это научиться делать. Хотя вот такой комплект с алишки за вполне вменяемые деньги получается —

https://aliexpress.ru/item/1005008360387649.html

https://aliexpress.ru/item/4001153976011.html

Наверное, во мне говорит врождённое нищебродство вместе с жабой и шепчет, что потребность ARC минимум(!) 1 - 2 гига на терабайт, это излишняя роскошь для дома.

Это не потребность ARC. Это потребность для дедупликации. ARC будет того размера который ты укажешь, это просто кэш. Дедупликация по умолчанию выключена и дома не нужна никому.