OpenZFS 2.3.0

Все, что Вы написали — безусловная правда. Однако, все это требует a) хорошие диски в достаточном количестве; б) память с ECC; в) корпус под дисковый массив и место под него дома + надежную сеть; г) грамотный тюнинг; д) специалиста, который понимает, как и что делать и где тюнить. Вы предлагаете хорошую вещь энтерпрайз-класса для домашнего использования. Как Вы полагаете, средний домашний пользователь обладает компетенциями на пункты г) и д) и деньгами и ресурсами на первые три пункта?

a) хорошие диски в достаточном количестве;

Достаточное количество: 1

б) память с ECC

Нет.

в) корпус под дисковый массив и место под него дома + надежную сеть;

Смотри пункт а. Для снапшотов, чексумм и прочих плюшек достаточно одного диска в одном компе.

Как Вы полагаете, средний домашний пользователь обладает компетенциями на пункты г) и д) и деньгами и ресурсами на первые три пункта?

Средний домашний пользователь не знает, что такое файловая система. Но если сделать к тем же снапшотам гуй, юзеры будут ссаться кипятком. От Apple Time Machine же ссутся, а это ровно оно и есть.

Другой вопрос в том, что разработчикам ZFS на среднего домашнего пользователя насрать, да и на ЛОР средний домашний пользователь не заходит. Не вижу ни одной причины упоминать среднего домашнего пользователя в дискуссии.

Вот я — тот самый средний домашний программист, 35 лет за клавой. Да, я умею пользоваться Apple Time Machine (и есть на чем ей пользоваться, вон на аватаре восьмеричные счеты на макбуке) и его аналогом TimeShift в то же Минте. Хоть и не пользуюсь, мне бекапов на съемном диске хватает и DVD-шек для совсем уж чего-то старого, типа архива легаси от DEC.

Как тюнить ZFS я так и не узнал (но знаю, что не простое это дело), хоть и пытался с этим разобраться по работе. В мои прямые обязанности это не входило тогда, но интересно было.

Как настроить правильно и бесшовно домашний вайфай на TPLink Omada на две точки доступа c контроллером я тоже до конца не понял. Как-то настроил, но не до конца. До конца надо сертификаты всем раздавать и радиус-сервер где-то поднять. Пока тупо негде. Я — программер, а не админ, админские задачи просто не привык решать.

Если про надежность, то и ECC нужна, и диска желательно хотя бы два для зеркала. И третий диск для снапшотов.

Не вижу ни одной причины упоминать среднего домашнего пользователя в дискуссии.

Ну хорошо, средний домашний квалифицированный в своей области айтишник, не специалист по стораджам.

Вот я — тот самый средний домашний программист, 35 лет за клавой.

Ты просто старый, мы уже поняли.

Как тюнить ZFS я так и не узнал (но знаю, что не простое это дело), хоть и пытался с этим разобраться по работе. В мои прямые обязанности это не входило тогда, но интересно было.

Зачем её тюнить? Из коробки она даёт достаточно неплохую производительность.

Если про надежность, то и ECC нужна

Нет.

и диска желательно хотя бы два для зеркала.

Вообще нет. Если у тебя важные данные, делай бэкапы и желательно в другой комп.

И третий диск для снапшотов.

Для снапшотов не нужен третий диск.

Ну хорошо, средний домашний квалифицированный в своей области айтишник, не специалист по стораджам.

Для этого есть примерно вагон гайдов по настройке ZFS для домашнего компа. Которые сводятся примерно к тому, чтобы включить сжатие и выключить atime. Плюс по вкусу шифрование и подобное. Если средний айтишник слишком туп, чтобы прочитать инструкцию из пяти пунктов – что я вполне допускаю, на самом деле – то тут надо всю область нахрен закрывать.

Всё очень просто: если я разобрался в настройке ZFS примерно за полчаса на достаточном для моих целей уровне, а я – тот ещё пускающий слюну дебил, то у тебя не может быть никаких оправданий.

Ну, тут вопрос в том, насколько вы дорожите данными на своих дисках.

Если дорожите, то и деньги на второй диск, и на ECC-память найдутся (хотя, как отметили выше, это вовсе не обязательно для использования большей части фич).

Тюнить ZFS тоже нужно далеко не каждому, стандартные настройки адекватны.

Опять таки, «сложность» ZFS в значительной степени обусловлена всего лишь несовместимостью лицензии. Будь она под GPL, во всех дистрибутивах уже давно была бы возможность просто ставить её из коробки и «средний домашний программист» бы даже не задумывался о том, что там за файловая система у него стоит, просто пользуясь вкусными плюшками. Этот самый программист бы оценил возможность добавлять диски в пул одной командой, пользоваться снэпшотами, нарезать thin-provisioned датасеты для удобаства, да и просто быть уверенным в целостности данных.

я кстати только в 1 месте видел где люди на санках LSI SAS RAID по прямому назначению использовали )))
а от их предыдущего извода на сказях остались непряитные воспоминания, SVM намного лучше был во всех смыслах.
это про противопоставление HW vs. SW raid

хотя им всем далеко до vxvm, там легко можно было делать r5 поверх r10 и наоблрот ))) ИЧСХ - оно до сих пор живо, только уже на венде

Ладно, уговорил, буду собирать себе новый десктопный комп (а надо бы), так постараюсь с этим разобраться. А так на старом ноутбуке с дисками не особо разбежишься... :( Или какой-нибудь NAS, что бы коллекция книжек и киношек отовсюду дома была видна. Вот на NASe ZFSy самое место.

Вот на NASe ZFSy самое место.

С чего бы? Какие такие преимущества она даст по сравнению с ext4?

Это долго описывать. Дедупликация, снапшоты, volume manager....

https://dzen.ru/a/YQuHQmwmDwqOu05c

Так себе обзор, но для понимания годится

Это всё понятно, непонятно зачем это на насе, для которого достаточно обычного рейда, luks и lvm. А не вкорячивать левого монстра, чтобы посмотреть фильм.

Хотя бы для того, что бы научиться это делать; Без геморроя можно готовый QNAP или Свинолоджи купить :)

ZFS так-то неплохо жмет. Так что если у дядьки на NAS валяется куча легкосжимаемых данных, можно сэкономилить на слотах под диски, которых обычно не то чтобы уж очень много.

Ну если только книжки... Но pdf и дежавю сильно больше, чем текстовых fb2. А терабайт с лихером музыки особо не пожмешь. Да и процессор на сжатие нужно посильнее, стало быть мать дороже выйдет. Я вот буквально сегодня считал мать и шасси. Без дисков с алика коробка в полном сборе без дисков рублей в 25 выходит.

Ну если только книжки… Но pdf и дежавю сильно больше, чем текстовых fb2. А терабайт с лихером музыки особо не пожмешь

Код очень неплохо жмётся, в том числе бинарный. Куча других данных тоже. У меня вот база в постгресе на 400 гигов жмётся до 110 так.

Да и процессор на сжатие нужно посильнее,

У тебя Pentium 3 что ли? На проц это добавит единицы процентов нагрузки даже если ты пишешь на диск на максимальных оборотах. Это вообще не проблема, если твоему компу меньше 10 лет.

Я думаю что если там книжки, то пяти 16T дисков тебе хватит до конца жизни.

Очевидно же, чтоб заменить md, luks, lvm и ext4 одной сущностью. Сжатие, дедубликация zfs бонусом.

zfs неплохо себя и на ноуте, и на одноплатниках уровня raspberry pi 4 чувствует. Сжатие корня на ноуте с 512 Гб ssd высвободило порядка 100 Гб.

Это может быть проблемой, если пожадничал и выставил что-то типа zstd-19)

Книжки, фотки, музыка, не одноразовые киношки. Своим видеопродакшеном я не занимаюсь.

пяти 16T дисков

А денег на них дадите? :)

А просадка по скорости доступа и общей производительности какая?

Ты на фото с сигарой в смокинге сидел. У меня сложилось впечатление что ты обеспеченный человек.

Ну есть такое дело. :) Но пока все на зубы уходит :) Возраст, знаете ли-с подошел. Считай один имплант с коронкой как три диска :)

у меня в ZFS используется LZ4.

К слову, тут все про дедупликацию пишут, но она по факту бесполезна. На среднем компе нет такого количества дублирующихся блоков чтобы это играло роль. В итоге экономия выходит в единицы процентов.

На среднем компе расход памяти и машинного времени на эту дедупликацию делает ее совершенно неработоспособной.

Чтоб с циферками не замерял. Поставил максимальное сжатие, словил тормоза, стал постепенно уменьшать, пока тормоза не ушли. Таким образом с zstd-19 добрался до zstd-10 (по умолчанию вообще 3). Основным критерием была работа виртуалок с офтопиком.

Бенчмарки в студию. Потому что у половины здесь сидящих luks шифрование, которое требует куда более сложных вычислений. И ничего, все живы.

Ее хорошо включать для отдельных датасетов, где ожидаются дублирующиеся блоки. На личной файлопомойке лежат /backups и /Разобрать{2010..2024}, так 12% от 3,5 Тб не так уж и плохо.

Raspberry pi 4 8Gb сильно превосходит средний комп по мощам?

Почитай требования в любом мануале.

У luks требования не растут линейно с объёмом.

Raspberry pi

Это вообще неликвид для развода гиков.

Я знаю требования. Там гигабайт RAM на один TB. В среднем компе это и есть весь доступный сторадж.

Они уже научились файлы удалять, или там тот же цирк, как пару лет назад?

https://www.reddit.com/r/zfs/comments/vfqr1o/0_bytes_free_and_cant_delete_any_files_any_option/

https://askubuntu.com/questions/1392147/files-moved-or-erased-from-zfs-drive-dont-free-space-on-the-drive

Removed files are still referenced by past snapshots, so what you describe is expected behaviour.

Иии?

и то, что после rm -f 50GB свободное место всё также 0 bytes

As expected. Работу снепшотов через астрал еще не напрограммировали, извини.

и то, что после rm -f 50GB свободное место всё также 0 bytes

Ну включи голову то. Мгновенные снэпшоты бесплатными не бывают.

Весь смысл снапшотов в прозрачности, а с такими подвохами куда проще юзать rsync.

а с такими подвохами куда проще юзать rsync.

Если тебе проще - юзай.

Что мешает делать снапшоты вручную, а не автоматически?

Весь смысл снепшотов в скорости и атомарности. Если ты не видишь зачем это нужно, значит они тебе и не нужны.

Отсутствие атомарности, например. Невозможность наклонировать из одного снепшота десять виртуалок за пару секунд.

zfs clone?

A clone is a writable volume or file system whose initial contents are the same as the dataset from which it was created. As with snapshots, creating a clone is nearly instantaneous and initially consumes no additional disk space. In addition, you can snapshot a clone.

Ну хоть маны читайте.

Я баребон считал с алика. Вон тут рекомендуют нечто на селероне — https://aliexpress.ru/item/1005008143185137.html

Но, говорят, над ZFSом может и призадуматься.

Есть что-то подороже в том же форм-факторе, говорят туда i5 влезает. А ноут у меня действительно довольно старый, Lenovo W530. Вон уже начал по перегреву отключаться, термопасту менять надо. Я его тут продул из продувочного пистолета с компрессором, вроде полегчало.

Так там ни скорости, ни атомарности не получается, в том-то и дело. Банальная запись логов забивает терабайты инфы за пару дней из-за чего и полезная скорость диска падает, а потом ценная информация не может записаться на диск и теряется.

А потом за пару секунд забить логами виртуалок весь диск и потерять всю инфу.

Ты делаешь что-то не так. Снепшоты это обычная практика для openstack, vmware и прочих гипервизоров.

Skill issue, git gut.

Расход памяти не слишком большой: ~гигабайт памяти на терабайт данных. На среднем компе нет терабайта данных.

Ну раз так, то как general purpose fs с фичей предоставления дополнительного метода бекапов она вообще не готова, ЧТД.