LINUX.ORG.RU
ФорумTalks

Железячные рейд-контроллеры — всё?

 ,


0

1

Приехала, значится, корзина, на 8 (восемь) 2.5" NVMe дисков. Вы не ослышались. NVMe диски в форм-факторе обычных 2.5" твердотельных накопителей. Ещё U.2 называется разъём.

https://www.netboot.ru/20220902_164630.jpg

https://www.netboot.ru/20220902_164639.jpg

https://www.netboot.ru/20220902_164650.jpg

Прикрутил корзину, а подключается она... Подключается она... Прямиком в рейзер! И разъём сильно отличается от обычного SAS-кабеля. И цвет кабелей, не сининький, а серенький. Такие дела.

https://www.netboot.ru/20220902_165313.jpg

https://www.netboot.ru/20220902_172005.jpg

https://www.netboot.ru/20220902_172016.jpg

Вместо обычных SATA/SAS-дисков у нас теперь подключаются NVMe-диски, и подключаются напрямую к линиям PCI, минуя какой-либо хардварный рейд-контроллер.

Получается что рейд-контроллеры — всё? В скором будущем их не станет, когда основная масса перейдёт с серверных SAS-дисков на NVMe U.2 диски?

А как же резервирование, зеркалирование дисков, вот это вот всё? Это получается же только софтварным путём только решается, т.е. будущее за mdadm?

Или NVMe диски будут существовать параллельно с SAS-дисками? И если кому-то надо аниме хранить, то тот будет использовать дисковые массивы с хардварными рейдами? А новые U.2 корзины для дисков они предназначены совсем для других задач?

Что вы думаете по этому поводу?

На чём лучше собирать CRUX?

★★★★★

Вот тоже было интересно, как реализуется типа-рейд на NVMe.

Клиенты любят просить у хостингов, чтобы 1С+битрикс крутилась непременно на NVMe, у кого спрашивал из коллег - они тупо бэкапят такие VM ежедневно и если что меняют нвмешки как кассеты сгоревшие и выкатывают бэкап. Уныло как-то.

С mdadm не очень понятно, как реализовать фичу «вынул на горячую диск, вставил другой, оно само отсинкалось и встало в работу» не прикасаясь к управлению/софту. Любая рейд-плата это делает по умолчанию, это её суть.

yu-boot ★★★★★
()
Последнее исправление: yu-boot (всего исправлений: 1)

наступление на грабли неизбежно, просто коммерсанты не спешат в этом разубеждать тех, кому по-нормальному «дораха»

slackwarrior ★★★★★
()

Тащемта, аппаратные контроллеры NVME RAID на рынке имеюцца. У вас там просто кто-то кроит :)

slackwarrior ★★★★★
()

Что ты несёшь? Ты подключил диски без рейда и из этого делаешь вывод что рейдов не бывает?

Получается что рейд-контроллеры — всё? В скором будущем их не станет, когда основная масса перейдёт с серверных SAS-дисков на NVMe U.2 диски?

Вместо sata/sas контроллеров будут nvme-контроллеры, вот и всё.

т.е. будущее за mdadm?

Нет, mdadm только в линуксе а линукс для хранилищ не подходит.

На чём лучше собирать CRUX?

На десктопе в одним диском.

firkax ★★★★★
()
Последнее исправление: firkax (всего исправлений: 3)
Ответ на: комментарий от yu-boot

С mdadm не очень понятно, как реализовать фичу «вынул на горячую диск, вставил другой, оно само отсинкалось и встало в работу» не прикасаясь к управлению/софту.

Учись хотя бы скрипты писать. Совсем обленились.

firkax ★★★★★
()
Ответ на: комментарий от yu-boot

Их 2 типа, работающие в режиме бифуркации у людей на mdadm/btrfs/zfs и пользователей Windows на адских костылях.

И полноценные с контроллером pci-e.

Последние идут с объектными говноблобами.

steemandlinux ★★★★★
()
Последнее исправление: steemandlinux (всего исправлений: 1)

Ну ... Если уж очень упрощенно, то никакого аппаратного RAID не существует, просто софт перенесен в другое место. Так что в принципе mdadm не самый плохой вариант.

Но NVMe RAID контроллеры вполне себе существуют и здравствуют, сам тыкал в такой, на 8 M.2-шек.

Мне кажется что NVMe - весьма специфическое решение и RAID там в общем-то не нужен, так что оно будет существовать параллельно. NVME - для высокоскоростных задач, SAS для отказоустойчивых.

windows10 ★★★★★
()

В скором будущем их не станет, когда основная масса перейдёт с серверных SAS-дисков на NVMe U.2 диски?

Да. Скоро ещё вертушки на NVMe подъедут, вообще весь этот раковник с SAS/SATA/SCSI можно будет выкинуть на помойку.

А как же резервирование, зеркалирование дисков, вот это вот всё? Это получается же только софтварным путём только решается, т.е. будущее за ZFS?

Поправил. Хардварный рейд уже давно является полным днищем.

hateyoufeel ★★★★★
()
Ответ на: комментарий от anonymous-angler

Локальная помойка. Будущее за геореплицируемыми sds

cobold ★★★★★
()
Ответ на: комментарий от hateyoufeel

весь этот раковник с SAS/SATA/SCSI

Ну, SATA, думаю, с нами на долго, т.к. накопилась критическая масса достаточно надёжных и рабочих устройств на консьюмерском рынке.

DarkAmateur ★★★★
()
Ответ на: комментарий от DarkAmateur

т.к. накопилась критическая масса достаточно надёжных и рабочих устройств на консьюмерском рынке

Настолько критическая, что многие компы в продаже сейчас идут без SATA дисков в принципе. NVMe в M.2 воткнул и поехали.

hateyoufeel ★★★★★
()
Ответ на: комментарий от hateyoufeel

идут без SATA дисков в принципе

Уточни: без дисков или возможности подключения оных? А то я вот открыл фотку MSI X670E AM5, а там 6 разъёмов торчит.

DarkAmateur ★★★★
()
Ответ на: комментарий от firkax

Давай я ещё еду в лесу сам добывать буду. Платка умеет всё сама и по дефолту. Смысл в mdadm, подымать сервак на десктопном говножелезе? Ну, тоже способ жизни, у нас netflow для ментов так писался.

yu-boot ★★★★★
()
Ответ на: комментарий от yu-boot

Плата умеет на «сама», а потому что кто-то накодил для неё этот функционал. Операционная система тоже всё будет уметь, если кто-то накодит. И в данном случае - кодить надо всего лишь какие-то скрипты. И то, что тебе

С mdadm не очень понятно, как реализовать

говорит плохо только о тебе.

Но да, для mdadm это не нужно, потому никто и не сделал до сих пор общеизвестную реализацию. А неизвестных, думаю, полно. Но не путай «я не осилил» (твой случай) и «не нужно» (то, что на самом деле).

А смысл платы не в том, что в ней этот алгоритм заложен, а в том что рейд через плату не перейдёт в неконсистентное состояние от кернел паника на хосте или от аварии по питанию (т.к. в ней есть батарейка). Именно эта независимость от внешних факторов и есть её единственное существенное отличие от софтрейда, всё остальное, при необходимости, элементарно реализуется где угодно.

firkax ★★★★★
()
Ответ на: комментарий от DarkAmateur

Уточни: без дисков или возможности подключения оных? А то я вот открыл фотку MSI X670E AM5, а там 6 разъёмов торчит.

В mini-itx платах обычно максимум два разъёма, на некоторых бывает ни одного. Ну и в корпус под mini-itx ты 3.5" диск никак не всунешь. Да и 2.5" тоже может не влезть.

В ноутбуках сейчас SATA только разве что в самых дешёвых моделях, почти всё что дороже штуки баксов идёт с NVMe.

Дальше всех пошёл Apple: они даже от NVMe отказались и подключают флеш-память без контроллера прямо в SoC. Скорость – обосраться! Но зато диск заменить нельзя, как это и принято в яббловских традициях.

hateyoufeel ★★★★★
()
Последнее исправление: hateyoufeel (всего исправлений: 1)
Ответ на: комментарий от hateyoufeel

В mini-itx платах обычно максимум два разъёма, на некоторых бывает ни одного.

У меня кстати три.

Ну и в корпус под mini-itx ты 3.5" диск никак не всунешь. Да и 2.5" тоже может не влезть.

Это да, хотя смотря что ты считаешь SATA.

В ноутбуках сейчас SATA только разве что в самых дешёвых моделях, почти всё что дороже штуки баксов идёт с NVMe.

Не правда. Оно идет с NGFF. А он может быть как SATA, так и NVMe. Более тебе скажу, если присмотришься, то там на плате разведено место под классический SATA-разъем, и еще более тебе скажу, я подпаивался под него, и оно работает.

Ну так раньше тоже так было, только разъем был электрически совместим с miniPCI-e: SATA SSD на платке =)

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 1)
Ответ на: комментарий от windows10

Это да, хотя смотря что ты считаешь SATA.

Што?

Не правда. Оно идет с NGFF. А он может быть как SATA, так и NVMe.

Может. Но они не всегда совместимы, и ты не воткнёшь NVMe диск в SATA-only разъём. И наоборот.

Более тебе скажу, если присмотришься, то там на плате разведено место под классический SATA-разъем, и еще более тебе скажу, я подпаивался под него, и оно работает.

Присмотрелся. В моём XPS 15 нет места под SATA-разъём. Подпаиваться туда точно никто не будет в здравом уме. Большинство людей ноутбуки вообще не разбирают.

Чувак, SATA дохнет, потому что необходимость в нём просто отпадает, а его ограничения с очередями давно уже мешают всем.

hateyoufeel ★★★★★
()
Последнее исправление: hateyoufeel (всего исправлений: 2)
Ответ на: комментарий от hateyoufeel

Што?

Ты написал про втыкнуть SATA в MiniITX. Я тебе ответил, что смотря ЧТО ты считаешь под SATA, потому что MiniPCI-e - тоже SATA, просто в другом разъеме, и такого добра хватает в мелкой компуктеризации.

Может. Но они не всегда совместимы, и ты не воткнёшь NVMe диск в SATA-only разъём. И наоборот.

Я бы даже сказал что они почти всегда не совместимы, но вот используются они параллельно повсеместно, т.е. часть современного минья идет с SATA в NGFF, а часть с NVMe, и от ценового диапазона это не зависит. Хотя безусловно в дорогих решениях используется NVM, надо же людей радовать скоростью за такое бабло.

Подпаиваться туда точно никто не будет в здравом уме. Большинство людей ноутбуки вообще не разбирают.

Это не отменяет его наличия. Ты - не будешь. А вот если Dell'у нужно будет выпустить какой-нибудь XPS 15 Нищук Edition - они подпаяют, хотя референс будет один и тот же.

Чувак, SATA дохнет, потому что необходимость в нём просто отпадает, а его ограничения с очередями давно уже мешают всем.

А вот тут ты ошибаешься.

многие компы в продаже сейчас идут без SATA дисков в принципе. NVMe в M.2 воткнул и поехали.

Как и здесь ошибаешься. Ты просто спутал M.2 с NVMe, но одно к другому не обязывает.

Если бы SATA сдыхал, то его бы не пёрли в новый форм-фактор, и не выпускали бы новые носители в этом форм-факторе, а максимум тащили бы легаси.

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 1)
Ответ на: комментарий от windows10

то его бы не пёрли в новый форм-фактор

Его не прут в новый форм-фактор. Просто нахрена переделывать уже существующие платы, если можно не переделывать. Готов поспорить, что большинство мат.плат были разведены 10 лет назад, и в них меняется только чипсет и может новые usb по мелочи разводят.

не выпускали бы новые носители в этом форм-факторе

В нём выпускают в основном харды и только потому что спецификации на NVMe HDD появились лишь вот только что. Ещё есть всякие мегажирные SSD, которые в M.2 тупо не влезают по размеру. С ними ровно та же проблема: отсутствие интерфейса.

hateyoufeel ★★★★★
()
Последнее исправление: hateyoufeel (всего исправлений: 1)
Ответ на: комментарий от windows10

Вот как человек, знающий, что

часть современного минья идет с SATA в NGFF, а часть с NVMe

может в том же посте ляпнуть, что

MiniPCI-e - тоже SATA, просто в другом разъеме

Вот как?

t184256 ★★★★★
()
Ответ на: комментарий от t184256

Переспроси что тебе не понятно.

Есть форм-фактор MiniPCI-e: http://www.interfacebus.com/Design_Connector_Mini_PCI_Bus.html

Его используют как MiniPCI-e устройства, так и устройства mSATA. У меня лично лежит такой девайс в котором три таких разъема. Равно как лежат и SATA-SSD подобного форм-фактора, так и другие девайсы этого форм-фактора.

От того что используется другой коннектор - носитель не перестает быть SATA.

windows10 ★★★★★
()
Ответ на: комментарий от hateyoufeel

Его не прут в новый форм-фактор.

Прут. Вот смотри.

Когда-то давно, в 2003-м году была изобретена спецификация SATA.

Затем, в 2011 году, была изобретена спецификация NVMe. Да, я не ошибся. NVMe был изобретен раньше чем M.2, и первые устройства поддерживающие эту спецификацию, были в виде полноформатных PCIE-карточек. Я видел даже забавные штуки в виде наборных DDR-планок со своей батарейкой.

И только потом, в 2013-м году, был изобретен форм-фактор M.2.

Если бы «его не перли в новый форм-фактор», то в форм-факторе 2013 года, была бы реализована только последняя спецификация, 2011 года, NVME. Но нет, там реализована и спецификация 2003 года, SATA, а если быть точнее, AHCI.

В нём выпускают в основном харды и только потому что спецификации на NVMe HDD появились лишь вот только что.

Как я уже написал, NVMe != M.2. Стандарт появился раньше слота.

Ещё есть всякие мегажирные SSD, которые в M.2 тупо не влезают по размеру.

Не знаю, максимально доступный у меня в стране на данный момент - Titanium Micro TH3500 - 8ТБ. Доступный в NVMe-стандарте - 12.8 ТБ. Как по мне - вполне себе жирно.

windows10 ★★★★★
()
Последнее исправление: windows10 (всего исправлений: 1)
Ответ на: комментарий от windows10

Я видел даже забавные штуки в виде наборных DDR-планок со своей батарейкой.

Они были ещё до NVMe, с SATA контроллером.

Если бы «его не перли в новый форм-фактор», то в форм-факторе 2013 года, была бы реализована только последняя спецификация, 2011 года, NVME. Но нет, там реализована и спецификация 2003 года, SATA, а если быть точнее, AHCI.

Я тебя неправильно понял. Я думал, под формфактором ты имел ввиду mini-itx.

Не знаю, максимально доступный у меня в стране на данный момент - Titanium Micro TH3500 - 8ТБ. Как по мне - вполне себе жирно.

Не, не особо. Есть SSD на 100Tb за очень конские деньги. Или на 20-30 за не слишком конские. В 2.5" напихать дохрена чипов проще, чем в 2280 или даже 22110.

hateyoufeel ★★★★★
()
Ответ на: комментарий от anc

Я тебя неправильно понял. Я думал, под формфактором ты имел ввиду mini-itx.

Не. Я имел в виду, что если бы SATA сдыхал, то его бы не перли в новый M.2, и уж тем более не производили бы новые устройства.

С т.з. хоста (архитектуры ПК), NVMе сильно проще, поскольку это всего лишь шина PCI + транслятор в БИОСе\драйвере, те же самые 8 (как минимум) контактов.

С т.з. клиента (самого SSD), NVMe сильно дороже, поскольку кроме усложнения электрической реализации (чем выше частота сигнала, тем жестче требования к топологии + для обработки высоких скоростей требуется скоростной МК) требует еще и сложную программную реализацию, где только за работу с шиной отвечает наверное половина кода прошивки.

С SATA все проще. По моему собственному опыту, SATA-контроллер ваяется на стм32-ке на коленке за пару часов.

Поэтому SATA, не форм-фактор разъема, а именно спецификация - будут жить бесконечно, как минимум до тех пор пока не придумают что-то поинтереснее-подешевле. Ну а через что эти 4 проводка будут идти: специальный разъем, PCI-йный разъем, да хоть Ethernet - пофигу.

Не, не особо. Есть SSD на 100Tb за очень конские деньги. Или на 20-30 за не слишком конские. В 2.5" напихать дохрена чипов проще, чем в 2280 или даже 22110.

Это да. Хотя опять же, M.2 это форм-фактор, а не логический интерфейс. Если нужен форм-фактор с подобной реализацией двух логических интерфейсов в одном разъеме - это U.2, а там как раз 2.5"

windows10 ★★★★★
()

Вспоминаем, что означает буква I в слове RAID.

PolarFox ★★★★★
()

Железные RAID придумали потому что процессоры в то время были слабыми и нагружались дисками так, что процессорного времени стало нехватать для других операций. С появлением более-менее современных камней потребность в хардварных рейдах отпала сама по себе и сегодня это просто моветон. Стыдно не знать.

untitl3d
()
Ответ на: комментарий от firkax

Что ты несёшь? Ты подключил диски без рейда и из этого делаешь вывод что рейдов не бывает?

он только спросил. там одни вопросы, без выводов. откуда злость такая? лишь бы ужалить.... таков лор.

Assembler
()
Ответ на: комментарий от hateyoufeel

NVMe в M.2 воткнул и поехали.

ну на винде может быть да. на линуксе nvme cамое то лишь под хранилище. вот интерфейс sata, на мой взгляд под систему. можно установить ОС и разбить диск как ты хочешь. nvme мне этого не позволил. может быть какими-то иными действиями это можно было бы сделать, но зачем мне иные действия, когда можно без них. тесты я неберу всчет. тесты это тесты, а повседневность, это повседневность. да и Линукс ОС позволяют использовать комплексно диски... можно кое-что хранить на sata дисках, а кое-что на nmve. swap я бы замутил именно на nmve диск, корень, на sata диск. надо делать как удобно, учитывать многое, а не так, что если nmve то только nmve ежели sata то никаих nvme. всегда какие-то крайности.

Assembler
()
Последнее исправление: Assembler (всего исправлений: 1)
Ответ на: комментарий от untitl3d

С появлением более-менее современных камней потребность в хардварных рейдах отпала сама по себе и сегодня это просто моветон. Стыдно не знать.

Ну да... конечно... нас посвятил регистрант 06.09.21 и мы сразу прислушались к его безусловно заслуживающего доверия мнению.
То что у вас в каждой кофеварке стоит fake raid это не означает что hard raid ненужно.

anc ★★★★★
()
Ответ на: комментарий от loki_

ну так оно в самом деле не нужно :)

Ну когда из-за «софт»(подразумеваю fake) проблем пролюбите данные тогда и поговорим :)

anc ★★★★★
()
Последнее исправление: anc (всего исправлений: 1)
Ответ на: комментарий от Assembler

ну на винде может быть да. на линуксе nvme cамое то лишь под хранилище. вот интерфейс sata, на мой взгляд под систему. можно установить ОС и разбить диск как ты хочешь. nvme мне этого не позволил.

Наверное, потому что ты баклажан с кабачком вместо мозга.

~ sudo fdisk -l /dev/nvme1n1
Disk /dev/nvme1n1: 476.94 GiB, 512110190592 bytes, 1000215216 sectors
Disk model: PLEXTOR PX-512M9PeY                     
Units: sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disklabel type: gpt
Disk identifier: 557418F6-E1A8-2E4E-9722-863478550FFB

Device           Start        End   Sectors   Size Type
/dev/nvme1n1p1    2048     526335    524288   256M EFI System
/dev/nvme1n1p2  526336    1574911   1048576   512M Linux filesystem
/dev/nvme1n1p3 1574912 1000215182 998640271 476.2G Linux filesystem
hateyoufeel ★★★★★
()
Ответ на: комментарий от hateyoufeel

Возможно вы и правы, без шуток. Человек мог по привычке «тыкать» на sdX и не «замечая» nvmeX. Много ли лоровцев знают про именования блокдевайсов в /dev ? Имхо подавляюще большинство знает только про sdX, т.е. не знаем про hdX и про nvmeX.

anc ★★★★★
()
Ответ на: комментарий от anc

Я прозреваю, что чувак мог попасться на слегка иную схему названий девайсов. В моём случае, диск – это /dev/nvme1n1, а не /dev/nvme1. Возможно, чувак пытался разметить второе вместо первого.

Но с другой стороны, как бы сам виноват. Можно было ман почитать, либо взять гуёвую тулзу типа gparted, которая всё бы правильно показала.

hateyoufeel ★★★★★
()
Ответ на: комментарий от hateyoufeel

чувак мог попасться на слегка иную схему названий девайсов

Тоже возможно. Тут традиционно lsblk в помощь.

anc ★★★★★
()
Ответ на: комментарий от anc

т.е никогда? xD
хвала богам, в наше время можно всякие реплики поднимать, дабы отказ сторейджа в одном месте не приводил к потере данных

loki_ ★★
()
Ответ на: комментарий от hateyoufeel

я бы такую разбивку диска невыкладывал... это простительно еще первокурснику какого-нибудь вуза, но матерому админу-нет. и вы даже не вникаете. вот мне нафиг не нужны EFI-шмефи... можешь выкинуть EFI?

Assembler
()
Ответ на: комментарий от Assembler

я бы такую разбивку диска невыкладывал… это простительно еще первокурснику какого-нибудь вуза, но матерому админу-нет.

Это домашний комп. Ну и в третьем разделе ZFS живёт. Алсо, я не админ.

вот мне нафиг не нужны EFI-шмефи… можешь выкинуть EFI?

Конечно могу! Только комп грузиться не будет. Поэтому я не буду этого делать, я ж не баклажан.

hateyoufeel ★★★★★
()
Последнее исправление: hateyoufeel (всего исправлений: 1)
Ответ на: комментарий от loki_

в наше время можно всякие реплики поднимать

Которые не одномоментные. Продолжаем думать про потерю данных :)

anc ★★★★★
()
Ответ на: комментарий от Assembler

вот мне нафиг не нужны EFI-шмефи... можешь выкинуть EFI?

Вам не нужно, а человеку нужно. В чем проблема?

anc ★★★★★
()
Ответ на: комментарий от anc

на сим предлагаю закончить обсуждать сугубо теоретическую ситуацию любви к неглючащим хардварным рейдам.

loki_ ★★
()
Ответ на: комментарий от anc

да вот както за 25 лет ни разу mdraid не терял данные. а вот хардварные рейды отправляли к праотцам. ужас какой.

loki_ ★★
()
Ответ на: комментарий от hateyoufeel

но вот вы не читаете. зачем мне EFI? мне не надо. речь шла о гибкости размещения системы на диске. nvme не позволит мне сделать так как я хочу, то есть без EFI, значит и гибкости нет никакой.

Конечно могу! Только комп грузиться не будет.

а вот на sata диске можено и без EFI и комп грузиться будет.

Это домашний комп

тогда вобще непростительно. уж не домашний ли ПК отражает знания и характер пользователя? именно он.

Assembler
()
Ответ на: комментарий от anc

так в ктом то и дело, что вдруг кому-то будет не нужно, а он не сможет избавиться от этого EFI. а речь была как раз о том чтобы настроить так как ты считаешь правильным или как ты хочешь. sata диски повзоляют тебе это сделать, nmve без лишних движений -нет.

Assembler
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.