LINUX.ORG.RU
ФорумTalks

Почему RAID 6 не популярен?

 


2

5

С одной стороны в сети полно историй про то, что RAID 5 сегодня использовать просто нельзя, т.к. при вылете одного диска и пересборке массива слишком велик шанс вылета одного из оставшихся дисков, что приведёт к повреждению массива. С RAID 6 этой проблемы нет. Т.е. этот вариант с большими объёмами предпочтительней. С другой стороны я просматриваю серверы именитых производителей вроде HP, DELL и там в характеристиках есть аппаратный RAID, вот ни разу не видел, чтобы там была поддержка RAID 6. Понятно, что можно всё софт-рейдом сделать, но хочется же аппаратно, деньги-то уплочены. Как так получается?

★★★★★
Ответ на: комментарий от Legioner

Воу, и тут общество верующих в плоскую землю. У меня на десктопчике не случалось - значит небываит.

Кстати, вот прямо сейчас делаю

# cat /proc/mdstat
Personalities : [raid1] [raid6] [raid5] [raid4]
md120 : active raid6 sdr[0] sdaa[4] sdu[3] sdw[2] sdk[1]
      11720658432 blocks super 1.2 level 6, 512k chunk, algorithm 2 [5/5] [UUUUU]
      bitmap: 1/30 pages [4KB], 65536KB chunk

md102 : active raid6 sdo[0] sds[4] sdp[1] sdq[2]
      7813774848 blocks super 1.2 level 6, 128k chunk, algorithm 2 [4/4] [UUUU]
      bitmap: 0/30 pages [0KB], 65536KB chunk

md101 : active raid6 sdl[5] sdn[4] sdm[3] sdj[0]
      7813774592 blocks super 1.2 level 6, 128k chunk, algorithm 2 [4/4] [UUUU]
      bitmap: 0/15 pages [0KB], 131072KB chunk

md100 : active raid6 sdf[1] sde[0] sdi[4] sdh[3] sdg[5](S)
      7813774592 blocks super 1.2 level 6, 128k chunk, algorithm 2 [4/4] [UUUU]
      bitmap: 8/15 pages [32KB], 131072KB chunk

md125 : active raid1 sda2[0] sdb2[2]
      7872512 blocks super 1.2 [2/2] [UU]

md126 : active raid1 sda1[0] sdb1[1]
      431027200 blocks super 1.2 [2/2] [UU]
      bitmap: 3/4 pages [12KB], 65536KB chunk

md127 : active raid1 sda3[0] sdb3[1]
      512704 blocks super 1.2 [2/2] [UU]
      bitmap: 0/1 pages [0KB], 65536KB chunk

unused devices: <none>

Отсюда вопрос - среди кого raid6 не популярен? Среди админов локалхоста с лорчика?

pinus_nigra
()
Ответ на: комментарий от mogwai

Один производитель может гарантировать совместимость между оборудованием поставляемым одним коплектом

Комплект вендор будет по спискам совместимости собирать — это же может штатный инженегр-админ сделать, только не ограничиваясь одним брендом и дешевле.

К коэффициентам обязательно прицеплюсь, потому что у брендового железа выше цена и покупки, и поддержки, и штатного специалиста, и как следствие значительно больший TCO. Раньше это была цена за надёжность, но в современном мире надёжность — уже норма, и рациональному объяснению переплата за бренд не поддаётся.

muon ★★★★
()
Последнее исправление: muon (всего исправлений: 1)
Ответ на: комментарий от muon

Смотри выше про ответственность. Кто собирал, тот и отвечает. Ок, штатного админа уволишь за косяк. Дальше что делать?

А про то, что поддержка готового решения дороже поддержки наколенного самосбора - это сказки. Либо это из серии «сделаю абы как, за три копейки, зато за бренд не переплатите. А что потом? А потом я никуда не денусь, так же за три копейки поддерживать буду. Что будет, когда меня машина собъёт? Да неее, не собъёт».

mogwai ★★★★★
()
Ответ на: комментарий от pinus_nigra

Отсюда вопрос - среди кого raid6 не популярен?

а под что ты используешь этот raid6? посмотри, как он проседает в тестах на запись. хуже всех остальных. поэтому как раз админы не локалхоста, а выскопроизводительных решений под базу или любую другую нагрузку скорее сделают raid10. raid6 - это компромисс для хранения файлов типа файлопомойки. можно дома на локалхосте, можно не дома.:) без разницы.

Почему RAID 6 не популярен? (комментарий)

crypt ★★★★★
()
Ответ на: комментарий от mogwai

Стандартные решения не завязаны на человека. С заменой админа вмварь перестанет принимать FC с хуавея, а с емс не перестанет? Ну-ну.

И железо, и поддержка, и люди — дешевле при том же уровне надёжности.

В качестве индикатора, публично доступные цены на экзамены в софтлайне: хуавей — от 12500, емс — от 28800.

muon ★★★★
()
Последнее исправление: muon (всего исправлений: 1)
Ответ на: комментарий от AlexVR

а, понял, т.е. 8 отдельных raid6, не собранных в raid60.

Minona ★★☆
()
Ответ на: комментарий от muon

Т.е. вместо сотрудника знакомого с решением хуавея и с решением делл, можно взять того кто знаком с решениями только одного из этих вендоров и не потерять в качестве поддержки?

Или сотрудник который общался только с делл будет стоить дороже чем сотрудник имеющий опыт работы и с делл, и с хуавеем? Он даже столько же стоить не будет. Больше опыта - дороже сотрудник.

А про индикатор, раз ты про сертификаты заговорил. Ты вмварью рулить пустишь человека, который сдал только экзамен хуавея?

mogwai ★★★★★
()
Ответ на: комментарий от crypt

сырой график с накладывающимися друг на друга кривыми не информативен никак.
нужна статистическая обработка: среднее, ст.отклонение, и т.д. по каждому типу рейда.
в графике Лаврентия, среднее для raid6 где-то 375, а для raid10 425. разница 13,3%.

Minona ★★☆
()
Ответ на: комментарий от crypt

ну, если ты предпочитаешь цветную мешанину, а не сухие цифры - твое дело.

Minona ★★☆
()
Ответ на: комментарий от mogwai

Так много вопросов и так мало ответов

muon ★★★★
()
Ответ на: комментарий от pinus_nigra

Я - ни подо что.

ну вроде ты от своего имени пост написал. а теперь мол не я.

Конкретно на этой машине - сборки, зеркала репозиториев, бэкапы, логи.

я и говорю: файлопомойка. ок. рейд6 для этого подходит.

В HPC его тоже используют вовсю.

опять вопрос каким образом. HPC - это не вид нагрузки.

crypt ★★★★★
()
Ответ на: комментарий от bigbit

Я же именно реальный случай описал.

Сорян. Ссылка первый раз как-то криво открылась, на начало темы. А всю её tl;dr; было читать. :)

atrus ★★★★★
()
23 декабря 2022 г.
Ответ на: комментарий от dk__

Пришло время некропостинга! Некропостинг сам себя не апнет!

Писал я тут ранее:

У меня 6й на 8 дисках. Пока во всем приятнее ссд. Отказы и ребилды репетировал успешно. Но планирую пару лет посидеть без докупок, а потом расширяться зеркальными ссд.

Ну что сказать, беда не приходит одна. Хотя все и кончилось хорошо.

На момент прихода беды я отказался от HS диска и оставил просто R6 на 8 дисках (глупо, да). (Напомню, что его задача - относительно быстрое однопоточное однопользовательское хранилище архивов, не отменяющее бэкапов, но страхующее от аппаратного вылета диска. И цена сильно ниже ссд. И… эти диски у меня уже есть, им от 3 до 5 лет, и будут работать, пока не начнут помирать).

Ну так вот, пересобирал компы. Апгрейд и все такое. К рейду в гости приехал новый проц. Но я не вставил до конца один из кабелей питания дисков. И массив запустился без одного из дисков. Дальше он начал орать (буквально). Я заметил, выключил комп, вставил питание. Массив пошел на типа проверку. Но сделал ее подозрительно быстро (для 16тб то). Потом… этот диск опять отпал. Назад массив его уже не принял. А потом не запустился на авторебилд и на другой диск вставленный вместо проблемного.

Тут я начал очковать, и решил вычитать данные (благо было куда), а потом разбираться с массивом. Начал читать с него… и минут через 20 том пропал из системы. Тут я начал очковать сильно. Потом было попыток 20 запустить ребилд на принудительно созданный HS диск. Но ни в какую из веб гуя он это не делал. А еще полезли какие-то аппаратные проблемы с компом - он начал рандом перезагружаться. С ошибками IOMMU. Заочковал я еще сильнее.

Пошел в прошивку контроллера (до загрузки ОС), там запустил принудительный ребилд. Он прошел его, прошел проверку. И… тома в системе нет! Уже был морально готов вести диски и контроллер в контору по восстановлению, но решил попробовать их R.saver (софтина такая). И, о чудо! Все вычиталось легко и просто. Она быстро собрала виртуальный рейд и дала все прочесть. (R-studio - не смогла нихрена вообще) Из многих сотен тысяч файлов не прочлись всего несколько штук.

После разбора массива выяснилось, что тот диск, с проблемами по питанию - посыпался. Тут уже не узнать - он был такое еще до моих кривых рук, или я его добил. Но вот так.

МОРАЛЬ:

  1. Самое ценное было в бэкапах. И я молодец.
  2. Все еще не вижу замены 6му рейду у себя. Выбрасывать пачку рабочих (аптайм от 3 лет) вд редов я не готов. Даже докупил еще.
  3. Соберу R+HS. +1 диск в шкафу. И отдельно зеркало на 2 дисках (2х16 тб лол, но это медленнее и более рисково).
  4. Да, при первичной сборке массива я репетировал отказы и ребилды. И хрен оно сработало на реальной проблеме. Но двойная избыточность помогла - данные целы.

Продолжу наблюдения. Да у меня есть ссд, в сумме где-то 6тб. Но этого мало. А еще пару десятков тб - дорого.

ЗЫ Опция «раз в 30 читать и фиксить весь массив» была включена. И, вероятно, она даже работала. Т.к. иногда застукивал том за тем, что она на 100% занят, по показателям диспетчера задач, и на него io плохое. Наверное, что-то он там гонял. Но данные пришлось доставать. ASR-6805 с батарейкой.

dk__
()
Последнее исправление: dk__ (всего исправлений: 1)
Ответ на: комментарий от dk__

Ну и немного упоринум форте:

В хранилище встает ASR-71605 (16 внутренних портов).

На нем будут подняты:

  • Рейд-5 из трех самых старых (5+ лет) дисков для подключения к яндекс.диску и т.п. Для тех данных, потеря которых в моменте - пофигу вообще. А три пенсионера еще должны приносить пользу отечеству.
  • Рейд-6 + HS на 7 более молодых и быстрых дисках (0-3 года). Основное хранилище. под него диск в запасе в ящике стола.
  • Рейд-1 на двух взятых на пробу сигейтах по 16тб. Будет хранить 3-й бэкап текущих рабочих проектов. Временно.

Старый контроллер (8 портовый) переезжает в рабочий комп. Где будет рулить 0 рейдом из 8 шт 1тб быстрых однопластинчатых дисков. Чтоб был быстрый массив под временные файлы (типа прорезов по 500 гигов на сцену и т.п.) Т.е. он может разваливаться хоть по расписанию раз в неделю - пофиг.

Беда в том, что в новом компе всего 4 сата порта… Жопы жадные.

dk__
()
Ответ на: комментарий от dk__

Продолжая наблюдения:

Венда быстрее ASR-7805 в работе с нулевым рейдом на 8 дисках. Процентов так на 20. Деиницилизировал диски, они появились в системе. Собрал осью. Стало шустрее. Абыдна, да.

Таки время «типа аппаратных» рейдов и правда уходит.

Я даже хотел ZFS завести, но хранилка иногда еще числомолотилка. А под линуксом не катит (софт).

dk__
()
Ответ на: комментарий от Black_Shadow

Что-то я такое помню… Больно мудрено. Собрал обычной оснасткой «управление дисками». И ок. Контроллер стал просто hba адаптером по сути.

dk__
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.