LINUX.ORG.RU
ФорумAdmin

zol , не всё так хорошо...

 


3

5

И так, сабж:

root@kvm2:~# zpool status -v

...

errors: Permanent errors have been detected in the following files:

        /zroot/kvm1/copy500/copy500.qcow2
        /zroot/kvm2/prd2/prd2.qcow2

Вышибает наглухо тестовые вирт. машинки. Память не ECC. Сперва вышибало одну, затем вообще ни с того, ни с сего, стало вышибать всё подряд.

Всё это случается, только при интенсивном IO.

Буду тестировать на ECC памяти завтра. О результатах - отпишусь. Ну и протестирую память, конечно.

Погнали холиварить..?

В логах всё чисто.

★★★★★

Последнее исправление: DALDON (всего исправлений: 1)
Ответ на: комментарий от DALDON

Если у тебя checksum выключены на томе/пуле - то о сквозной проверке можешь забыть :-)

Pinkbyte ★★★★★
()
Ответ на: комментарий от DALDON

Так вроде же zfs, гарантирует целостность данных в любом случае. Почему оно позволило записать битые данные?

ZFS гарантирует целостность данных при избыточности и возникновении ошибки hdd, повреждение данных в ОЗУ zfs никак исправить не сможет.

King_Carlo ★★★★★
()
Ответ на: комментарий от King_Carlo

С любой другой ФС было бы то же самое или хуже.

Так:

1 . checksum — не панацея — минус
2. быстродействие ниже чем у других — выправляется за счет большого кеша — минус
3. фрагментация высокая из-за cow — минус.
4. Снапшоты — плюс
5. Сжатие — плюс.

не так уж много плюсов остается у zfs, его рекламируемая «крутость» такая рекламируемая. Понятно почему никто особенно не рвется развивать его аналог — btrfs

anonymous
()
Ответ на: комментарий от anonymous

Мне zfs, нужна для отправки инкрементальных снепшотов по сети. Сейчас кроме как через zfs или brtfs, этого сделать не возможно. Не могу же я каждый день гонять по три терабайта данных для бекапа.

DALDON ★★★★★
() автор топика
Ответ на: комментарий от anonymous

checksum — не панацея — минус

От битой памяти вообще нет панацеи. Но даже абсолютно исправный hdd имеет ненулевую вероятность испортить данные и в этом случае сквозной контроль целостности данных очень даже работает.

не так уж много плюсов остается у zfs, его рекламируемая «крутость» такая рекламируемая.

Для некоторых задач альтернатив просто нет.

King_Carlo ★★★★★
()
Последнее исправление: King_Carlo (всего исправлений: 1)
Ответ на: комментарий от anonymous

Эй, фанаты zfs, а как же хваленая надежность и сквозные контрольные суммы, должные уберечь данные от любых аппаратных сбоев? Я в шоке, от вашей лжи, пусть даже от вашей безграмотности!

Народ в шоке от тупости хейтеров.

EvgGad_303 ★★★★★
()
Ответ на: комментарий от anonymous

Не хейтеров, а рационально мыслящих.

Если ты такой рациональный, то почему такой тупой? Карлито тебе даже намекнул, почему это так.

EvgGad_303 ★★★★★
()
Ответ на: комментарий от DALDON

Вот это и меня как раз таки тоже ВЕСЬМА удивило...
Так вроде же zfs, гарантирует целостность данных в любом случае.

А что тут удивляться, недоверие к дискам есть, а недоверия к памяти нет.

zgen ★★★★★
()
Ответ на: комментарий от King_Carlo

Зачем?

Лол, чтобы «знающие» хомячки в продакшене пользовались. Что вообще никак не поддерживается даже в не enterprise linux: неком там ubuntu «server»? Даже художникам очевидны вещи, неочевидные тебе.

Команда zfsonlinux реагирует.

Балабол. Вот заключила компания с canonical договор на поддержку ubuntu server. Отвалила бабла. А «Команда zfsonlinux» значит будет мне это чинить? Ваганыч, завязывай.

В соляре kvm не работает

Скажи еще, что в соляре не работает Hyper-V, PowerVM, microsoft office, putty, totalcommaner и mediaplayer. Определенно очень нужные там для некоторых вещи.

В принципе мне твой подход понятен, результат, как таковой, тебя не интересует

Результат - отсутствие технической поддержки и всякие косяки, которыми никто заниматься не будет, а также туманное будущее ZOL.

и советы употреблять дерьмо болшой ложкой (btrfs)

Ты его сам выбрал. Я сказал, что для linux лучше выбрать вместо ZOL btrfs, если уж хочется интересных опций. А в продакшн на линукс надо ставить xfs, ext4.

andrew667 ★★★★★
()
Ответ на: комментарий от DALDON

Мне zfs, нужна для отправки инкрементальных снепшотов по сети. Сейчас кроме как через zfs или brtfs, этого сделать не возможно.

LVM/ thinLVM не слышал?

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Вот заключила компания с canonical договор на поддержку ubuntu server. Отвалила бабла.

Ты без «отвалила бабла» не умеешь? Всё таки это linux, opensource и всё такое. Проходи мимо, торгуй солярой и rhel в другом месте.

Определенно очень нужные там для некоторых вещи.

Я понимаю, что тебя как продавца солярки бесит, что оно кому то вообще никак не надо.

Результат - отсутствие технической поддержки и всякие косяки

Давай конструктивно, ссылки на описания косяков.

Я сказал, что для linux лучше выбрать вместо ZOL btrfs

Не лучше, btrfs непригоден к использованию.

А в продакшн на линукс надо ставить xfs, ext4.

Ставь, тебе никто не мешает. Мне rhel не указ, я сам решу, что надо ставить.

King_Carlo ★★★★★
()
Ответ на: комментарий от EvgGad_303

Что значит не дружу с гуглом? У меня файлы повреждены, и утилита cp даже падает. Сама zfs, предлагает мне восстановиться из резервной копии. Да, я в шоке. Признаюсь.

DALDON ★★★★★
() автор топика
Ответ на: комментарий от King_Carlo

opensource

Чего ж твой opensource ZOL никто не включил в дистрибутив, даже космонавт?

Давай конструктивно, ссылки на описания косяков.

От тебя твоих тестов btrfs я так и не увидел. Поддрежки ZOL в дистрибутивах тоже не увидел. Увидел только бред. Балабол ты. Только и умеешь небылицы писать. На большее не тянет. Лучше бы на заборе писал - хотя бы поисковик твой бред не индексировал, и меньше людей увидело этот позор.

Мне rhel не указ, я сам решу, что надо ставить.

Продолжай и дальше настраивать localhost.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

LVM/ thinLVM не слышал?

Оно уже может слать инкрименты? Или ты мне каждый день предлагаешь делать полную копию виртуалки, и всё это время жить в адовых тормозах от lvm + того i/o которое будет генерироваться?

DALDON ★★★★★
() автор топика
Ответ на: комментарий от andrew667

Чего ж твой opensource ZOL никто не включил в дистрибутив, даже космонавт?

Так лицензия же не позволяет.

DALDON ★★★★★
() автор топика
Ответ на: комментарий от DALDON

ну вот я и говорю - документацию не читаем, в гугл не ходим.
zfs не даёт читать файл не потому что диск, а что бы эти испорченные данные не расползлись дальше по интфраструктуре. если так надо достать эти файлы, то с помощью zdb это проворачивается лёгкими пассами пальцев рук.

EvgGad_303 ★★★★★
()
Последнее исправление: EvgGad_303 (всего исправлений: 1)
Ответ на: комментарий от DALDON

Оно уже может слать инкрименты?

В поисковике не пробовал спросить? Делай что хочешь и домысливай дальше со всякими подbёбками в мой адрес. Пока.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

От тебя твоих тестов btrfs я так и не увидел.

Темы мои почитай про btrfs, там всё описано с багами, глюками, версиями ядер и прочим. Ты даже можешь повторить все это сам, если осилишь.

Увидел только бред. Балабол ты.

Судя по риторике тебе лет 15, не вижу конструктивного диалога, одни понты.

Только и умеешь небылицы писать.

Какие небылицы? Давай ссылки на то, что тебе не понятно. Я за свои слова могу ответить, ты врядли.

Продолжай и дальше настраивать localhost.

Всё что не купленная солярка или rhel - localhost?

King_Carlo ★★★★★
()
Последнее исправление: King_Carlo (всего исправлений: 1)
Ответ на: комментарий от andrew667

andrew667, у меня просто НЕТУ такого права, тебе хамить и делать всякие подколки, ты пришёл, и хоть и ругаетесь вы тут между собой, но свои пять копеек по делу ты тоже сказал! О подbёбках с моей стороны нету даже и речи. Я вполне серьёзно. Ну не может же LVM, посылать инкрименты. Если я не прав - то я тебе приношу извинений, и иду в гугл с позором. Я вполне серьёзно, допускаю тот факт, что я могу чего-то не знать.

DALDON ★★★★★
() автор топика
Ответ на: комментарий от EvgGad_303

Ой... Вот оно как. У меня дело смотри в чём: оно мне даёт читать файл, и где-то на середине cp обрывается! Я с крешем zfs, я пока не сталкивался ещё. Так, что да, конечно я могу жутко тупить. Пока слава боженька не в продакшене. Такое поведение, как я описал, это нормальное поведение?

DALDON ★★★★★
() автор топика
Ответ на: комментарий от King_Carlo

Я за свои слова могу ответить

Ну покажи мне официальную поддержку ZOL в linux и результаты твоих тестов btrfs. Сто раз уже написал тебе это, а в ответ какой-то баттехерт. По делу ни одной буквы. Показать-то тебе нечего даже для ubuntu. Не то, что ubuntu server, а даже в ubuntu desktop хотя бы в preview. Зато поливать дерьмом ты горазд. Жду ответа насчет официальной поддержки ZOL и результатов тестов btrfs с методикой тестирования. Если ты это не можешь предоставить - то и за слова ответить не можешь, а все тобой написанное - ложь.

одни понты

Понтов нет. Есть достоверные факты, подтвержденные официальными источниками. Любой желающий в этом может убедиться, попробовав технологию. А для тебя достоверная информация - сказки.

andrew667 ★★★★★
()
Последнее исправление: andrew667 (всего исправлений: 1)
Ответ на: комментарий от andrew667

результаты твоих тестов btrfs.

Вчера мне показалось, что ты выпимши и поэтому слабо адекватен, сегодня я вижу, что всё гораздо хуже. Я тебе 3 раза предложил ознакомится с моими темами про btrfs и обсуждение btrfs в чужих темах, там всё написано. Специально для тебя здесь городить простыню копипасты никто не будет.

Зато поливать дерьмом ты горазд.

Департамент продаж rhel в твоём лице негодует. Я лишь констатирую факт - btrfs на сегодня непригодна для использования.

King_Carlo ★★★★★
()
Ответ на: комментарий от DALDON

Дедовский метод
Тут полезный костыль, который позволяет передавать лишь изменения lvm при бэкапе снэпшотами.
Еще можешь глянуть BackupPC.

P.S. Ничто тебе не мешает купить одну или несколько дисковых полок, SAS-коммутатор, и HBA-адаптеры с внешним коннектором. Втыкаешь серверы из стойки в SAS-коммутатор и синкаешь данные в другое место.

andrew667 ★★★★★
()
Ответ на: комментарий от King_Carlo

Твои слова и гроша ломаного не стоят. Ответить за свои слова ты не способен. Никаких материалов нет. Подтверждения работоспособности технологии от поставщика дистрибутива нет. Гуд-бай, лжец.

предложил ознакомится с моими темами про btrfs и обсуждение btrfs в чужих темах

Отправил рыться куда-то в чье-то мусорное ведро. Весьма достойное место. Молодец! Надо еще у бабки в с подъезда спросить и на заборе почитать. Инфа 146%.

andrew667 ★★★★★
()
Ответ на: комментарий от King_Carlo

Специально для тебя здесь городить простыню копипасты никто не будет.

Копипасту не надо, достаточно ссылки. Или ты предлагаешь перерыть весь форум в поисках пруфов?

Chaser_Andrey ★★★★★
()
Ответ на: комментарий от andrew667

Дедовским методом, я просто физически по сетке не смогу сбекапить несколько террабайт в сутки. Да и бесполезно, бегать каждые сутки по всему объёму данных.

Про полезный костыль - я видел, но как-то очково... Не удобно поднимать копию машинки на удалённом сервере, ну не продакшн это рейди. Если уж и zfs не родной, то какие-то сценарии пользовать, и использовать то, чего для этого не предназначено изначально... Ну сомнительно.

В целом, можно конечно и полок накупить. Моя проблема в том, что у меня пользователей всего, 150 человек, а полки, и прочие вещи, стоят весьма не бюджетно.

DALDON ★★★★★
() автор топика
Ответ на: комментарий от DALDON

zol , не всё так хорошо
ребята, память битая

проверяйте свой металлолом прежде чем гнать на zol

axelroot
()
Ответ на: комментарий от DALDON

У меня, zfs том, с именем вирт. машинки. А в томе, просто лежит файлик qcow2

так у тебя поверх zvol натянута qcow2? или ты томом называешь низлежашую ФС? и почему в виртуалках сразу не использовать виртуальные блочные устройства (тома) zvol?

axelroot
()
Ответ на: комментарий от andrew667

Твои слова и гроша ломаного не стоят.
Гуд-бай, лжец.

Детский сад же, ей богу. Иди уроки делай.

King_Carlo ★★★★★
()
Ответ на: комментарий от DALDON

Оно уже может слать инкрименты?

вернее сказать - экскременты.

axelroot
()
Ответ на: комментарий от DALDON

Дедовским методом, я просто физически по сетке не смогу сбекапить несколько террабайт в сутки. Да и бесполезно, бегать каждые сутки по всему объёму данных.

Так правильно организуй данные на сервере. Вынеси /var/...myvideo или что-там у тебя и синкай по lftp.

Про полезный костыль - я видел, но как-то очково...

Про контрольные суммы ты, конечно, не слышал.

Не удобно поднимать копию машинки на удалённом сервере

Ты же данные тащить на другой сервер собрался, а тут вдруг заявляешь, что не нужно.

ну не продакшн это рейди

Ну тогда делай кластер из нескольких узлов и экспортируй файловую систему. Вот, например, почитай «Deploying Highly Available NFS on Red Hat Enterprise Linux 6». Можешь GFS2 поднять. Хочешь - ставь связку Solaris+ZFS+iSCSI, хочешь - FCoE.

andrew667 ★★★★★
()
Ответ на: комментарий от King_Carlo

Из относительно свежего Проскакивала новсть, что btrfs уже стабильна. Я в этом не уверен.

И это твое тестирование? Это же курам на смех. Не забудь добавить про то, что твой баг не повторяется. А списке твоих темах только то, что ты умудрился сломать убунту.

andrew667 ★★★★★
()
Ответ на: комментарий от King_Carlo

btrfs на сегодня непригодна для использования

+1

в ядро притащили труп, но зато с правильной лицензией.

axelroot
()
Ответ на: комментарий от andrew667

И это твое тестирование?

Нет, это просто рабочий момент.

сломать убунту

То есть для btrfs нужен специальный дистрибутив, да? То что этот навоз в ядре никого тебя смущает, отличаться могут только утилиты сопровождения btrfs-progs.
Я, кстати, после этого случая накатил на стенд федору 21 и гоняю иногда эту бажную ФС, результат - смех сквозь слёзы.

King_Carlo ★★★★★
()
Ответ на: комментарий от DALDON

/testPool/prd3

это не есть том. prd3 - это ФС более нижнего уровня. под томом подразумевается виртуальное блочное устройство (по типу lvm) называется zvol и его сразу можно отдавать виртуалке как обычный диск.

axelroot
()
Ответ на: комментарий от axelroot

Угу. Мне с файлом просто как-то кажется удобнее (в том плане, что его можно взять и унести куда угодно без всяких там dd), хотя тут остаётся вопрос с кешом, конечно. Я так понял, что при, том случае, когда мы отдаём zvol, можно поставить: cache=none, и не волноваться. А вот когда qcow образ... Уже надо ломать голову над этим моментом...

DALDON ★★★★★
() автор топика
Последнее исправление: DALDON (всего исправлений: 1)
Ответ на: комментарий от King_Carlo

btrfs=samba=ftp пока под эти задачи при необходимости selinux+alc выбора нет.

erzent ☆☆
()
Ответ на: комментарий от DALDON

и где-то на середине cp обрывается

Это, конечно, странное поведение, битый файл можно только удалить или переместить в другое место, если похерена метадата. Но я не знаю как там оно в линуксах реализовано, а копать сорсы zol лень.

Такое поведение, как я описал, это нормальное поведение?

В случае битой памяти без ecc - да, с оглядкой на вышесказанное.

EvgGad_303 ★★★★★
()
Ответ на: комментарий от King_Carlo

не считая всяких извращений типа smartos на illumos.

Чойто, кстати, готовая iaas платформа извращение?

EvgGad_303 ★★★★★
()
Ответ на: комментарий от andrew667

Тут полезный костыль, который позволяет передавать лишь изменения lvm при бэкапе снэпшотами.

Тебе не кажется это несколько лицемерным - гнобить человека за использование не ынтырпрайза, а самому советовать какие-то костыли вместо нормального решения? :)

EvgGad_303 ★★★★★
()
Последнее исправление: EvgGad_303 (всего исправлений: 1)
Ответ на: комментарий от EvgGad_303

Каюсь, но я предложил много вариантов, а не только костыль. Потом еще дописал варианты решения. Кстати, достойные варианты для бэкапов, не требующие больших финансовых затрат, можешь озвучить. С интересом ознакомлюсь. И все-таки использовать неподдерживаемую файловую систему в продакшене неприемлемо.

P.S. Не понимаю людей, у которых на серверах терабайты. Потом и возникают вопросы как с этим непотребством жить. Я, например, когда переводил физические серверы с федоры и прочего на centos, то старался все сделать как можно компактнее. В результате вместо 300-500 гигабайт получал 15-80 гиг, длительное время поддержки дистрибутива, упрощение по бэкапам и миграции.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

достойные варианты для бэкапов, не требующие больших финансовых затрат, можешь озвучить

Боюсь я настолько погряз в тырпрайзе, что знаю только за symantec, commvault и ко, ну и вариации на тему zfs send на бэкап-сервер с соляркой или omnios.

EvgGad_303 ★★★★★
()
Последнее исправление: EvgGad_303 (всего исправлений: 1)
Ответ на: комментарий от EvgGad_303

Это, конечно, странное поведение, битый файл можно только удалить или переместить в другое место, если похерена метадата. Но я не знаю как там оно в линуксах реализовано, а копать сорсы zol лень.

Угу. Ну я попробовал так со своими образами поиграться, потом восстановился из последнего удачного снепшота - и вроде как всё ок стало. Кстати, а восстановление из снепшота, это адекватное решение в моём случае?

DALDON ★★★★★
() автор топика
Ответ на: комментарий от andrew667

Ну для lvm, diff backup, там правда костыль конечно, они парсют метаданные томов, и т.д. Про контрольные суммы я знаю, конечно. Но, мне по мимо всего прочего, хочется иметь несколько снепшотов от вирт. машины, а с lvm, будет всё плохо в этом плане.

К сожалению, ничего толкового, кроме zfs (не поддерживаемой), и brtfs (так же весьма не однозначной ФС), ничего другого нету из не требовательных к большому кошельку. В zfs также можно делать кеши на чтение на SSD, чего в LVM не сделать, конечно. Хотя в lvm зато, можно lvol расположить там, где тебе этого надо, в отличии от «заумной zfs», насколько я понимаю. А мне бы это весьма пригодилось бы, например. Конечно, есть здравый смысл в том, что ты говоришь про brtfs + RHEL 7.1. У тебя у самого есть опыт промышленного применения этой fs? К примеру, King_Carlo, имеет 23 хоста с zfs, и у него всё работает. У меня тоже всё работало, до того, как появилась битая память (кстати, ты если знаешь про brtfs, может сможешь предположить, как бы она себя в такой ситуации повела?).

Я ведь не глупый человек, и понимаю, что brtfs, zfs - это всё глупости. И по хорошему счёту надо брать вмварь, две дисковые полки с аппаратными снепшотами, делать FoC, и делать репликацию между полками средствами veambackup какого-нибудь. Но это дорого. Очень дорого. Не для конторы из 100 человек.

Тот сервис, который я сейчас пилю, вообще не более 60 человек использует. И те... lazy users. Но объёмы данных - сотни гигабайт, и это данные СУБД, а не мультики с котиками. :)

DALDON ★★★★★
() автор топика
Последнее исправление: DALDON (всего исправлений: 3)
Ответ на: комментарий от DALDON

Ну для lvm, diff backup, там правда костыль конечно, они парсют метаданные томов, и т.д.

И в чем для тебя профит от ZOL? Не пофиг ли на фс, если ты данные все равно на другой физический сервер выливаешь? Повторюсь насчет решения на двух серверах: Highly Available NFS on Red Hat Enterprise Linux. Еще 2 сервера надо под гипервизоры, но можно и 1. Гипервизору шарим storage по NFS, и там храним образы в формате qcow2 и делаем снепшоты, если нужно.

andrew667 ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.