LINUX.ORG.RU

Имеет ли смысл переводить домашнюю утварь на 10GbE/40GIB?

 , домашная сетка,


0

2

1. Собственно, хотелось бы узнать, насколько сейчас уже целесообразно (с учетом копеечных цен на ebay) переходить на 10Gb Ethernet или на устаревший 40G Infiniband?
2.Или вообще ядро делать на IB, а конечные устройства подключать через 10GbE через шлюз (или сразу брать свитч с IB+10GbE)?
3. Имеет ли смысл использовать оптику в случае 10GbE? А в случае IB? В моём случае медные кабеля IB не дотянутся до клиентов.
4. Есть ли какой-либо вменяемый вариант использования данных технологий с ноутбуками? Я так понимаю, что на полную работать будет через TB->PCIe 8x на огрызках?

☆☆☆

Последнее исправление: CYB3R (всего исправлений: 1)

домашная сетка
целесообразно
Infiniband

Щто.

anonymous
()
Ответ на: комментарий от Evgueni

В случае infinband замаешься потом контроллеры искать. IMHO нафиг, нафиг.

Почему? У них разве нет обратной совместимости? И на ebay можно хоть 10GbE ещё купить.

ktulhu666 ☆☆☆
() автор топика

Ну, гигабитный ethernet пока работает много медленнее, чем HDD. Так что пока ещё есть куда расти.

KRoN73 ★★★★★
()
Ответ на: комментарий от ktulhu666

Ты их будешь сразу парами покупать? Или ждать пока через месяц взамен сломанному что-то придёт не пойми какого качества (реальная история)?

Evgueni ★★★★★
()

Имеет ли смысл использовать оптику в случае 10GbE

Если есть знакомые монтажники, которые за пиво сварят, то более чем. Есть патчкорды, ИМХО, до 20 метров. Причем, цена мало зависит от длинны. Оптика стоит дешево, значительно дешевле меди, тем более всяких извращенных 7-х категорий. Но, нужно дорогостоящее оборудование чтобы с ней работать, и продается она километрами, никто тебе 20 метров кабеля просто не продаст.

Я пока не видел дешевых-досупных оптических 10G свичей. Только с 10G апплинками.

Macil ★★★★★
()

«НЛО» это больше специфика хабра.

anonymous_sama ★★★★★
()
Ответ на: комментарий от KRoN73

HDD

HDD для данных только. Причём архивных. Уже давно системы только на SSD ставят (кроме серверов, где часто пофиг на загрузку системы, важна только срость работы БД/кэша файлов). А данные перед записью на HDD кэшируются в SSD, поэтому по сети могут копироваться со скоростью в 400+Мб/с при учете доступности их из кэша.
Мало того, если у Вас рейд из HDD, то вы будете думать иначе.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от Evgueni

Ты их будешь сразу парами покупать? Или ждать пока через месяц взамен сломанному что-то придёт не пойми какого качества (реальная история)?

В смысле? Конечно, будет резервный свитч. И запасные адаптеры. Или ты из тех админов, которые покупают один стример, а потом не могут считать кассету?

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от Macil

Если есть знакомые монтажники, которые за пиво сварят, то более чем. Есть патчкорды, ИМХО, до 20 метров. Причем, цена мало зависит от длинны. Оптика стоит дешево, значительно дешевле меди, тем более всяких извращенных 7-х категорий. Но, нужно дорогостоящее оборудование чтобы с ней работать, и продается она километрами, никто тебе 20 метров кабеля просто не продаст.

Щито? Пояндекси. Куча компаний есть, которые тебе обожмут любой патчорд любыми коннекторами. И не путай - километры кабеля (кроссы) и то, что используется в помещении (пигтейлы/патчкорды) - это совершенно разные типы кабеля (я в плане наиболее дорогостоящей защитной части, а не про волокно). Около (и в) Москвы есть куча компаний, которые только и делают, что на заказ оптику жмут. Причём тут варка вообще не понятно. Это уже имеет смысл в случае дома/пентхауса. И должно закладываться ещё при проектировании.

Я пока не видел дешевых-досупных оптических 10G свичей. Только с 10G апплинками.

Вот поэтому я склоняюсь к IB. Но тут нужно будет шлюз городить. И, вроде, он менее безопасен.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Да не — я пользователь, чисто наблюдаю за админами. Месяц доступа к вычресурсам не имели из-за хитровыварнутого контроллера — ога, именно я его покупал на ebay. А тебе желаю запастись всем и закуклиться.

Evgueni ★★★★★
()
Ответ на: комментарий от ktulhu666

HDD

HDD для данных только. Причём архивных. Уже давно системы только на SSD ставят

1. Я под HDD имею в виду накопители в целом, в т.ч. SSD

2. По сети, как раз, данные обычно и нужны. Чего там с SSD гонять?

Мало того, если у Вас рейд из HDD, то вы будете думать иначе.

А Вы точно внимательно прочитали про то, что я пишу? Я пишу, как раз, что гигабита не хватает даже для старых одиночных HDD.

KRoN73 ★★★★★
()
Ответ на: комментарий от KRoN73

Прошу прощения, я читаю скорочтением, поэтому ваше повторяющееся «пока» заставило меня думать в противоположном ключе.

2. По сети, как раз, данные обычно и нужны. Чего там с SSD гонять?

Если есть в кэше, то эти данные. Плюс бекапы и БД. В любом случае, даже скорость линейного чтения с рейда из HDD - это сотни мбайт в сек.
Я не совсем понимаю Вашу позицию. Она весьма противоречива, ИМХО.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ii343hbka

Я контроллеры и свитчи IB имел в виду. И NICи 10GbE. Да, вероятно, именно на IB всё придется делать.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

В любом случае, даже скорость линейного чтения с рейда из HDD - это сотни мбайт в сек.

Именно так. В то время, как гигабитный эзернет на практике не выдаёт и одной сотни мегабайт/с.

Я не совсем понимаю Вашу позицию. Она весьма противоречива, ИМХО.

У меня позиция однозначная — гигабитного эзернета не хватает, чтобы обеспечить полную скорость передачи даже весьма старых HDD. И поэтому, если скорость важна, то имеет смысл переходить на более быстрые сетевые решения.

KRoN73 ★★★★★
()

Тоже озадачился подобным.

Хочется файл-хринилище. Доступное с 2-3 компов и из веба. т.е. «юсб 3.0» - не катит.

А 1гигибит - жутко медленно. Неописуемо медленно.

dk-
()
Ответ на: комментарий от dk-

Господа, подкиньте белке ссылок на доступные (по цене) железки для 10гбит дома? Можно «без свича».

Зашел сейчас на маркет. Сетевухи по 15к что-то не радуют.

dk-
()
Ответ на: комментарий от ktulhu666

которые тебе обожмут любой патчорд любыми коннекторами

Обожмут... Очаровательно... Хотя на таких длинах действительно пофиг.

И не путай - километры кабеля (кроссы) и то, что используется в помещении.

А ты не путай магистральный кабель с кабелем для PON (пардон, FTTH). Патчкорды и монтажный кабель в жилом помещении использовать не очень правильно... Не предназначен он для этого.

Macil ★★★★★
()
Последнее исправление: Macil (всего исправлений: 1)
Ответ на: комментарий от Macil

Обожмут... Очаровательно... Хотя на таких длинах действительно пофиг.

Окольцуют, или как там правильно? Обычно, они продевают волокно в коннектор, скалывают,полируют, всё склеивают. Но иногда используются быстрые коннекторы и гель (редко, т.к. дороже). И да, на таких длинах - пофиг. Только оранжевый кабель с желтый не путай.

А ты не путай магистральный кабель с кабелем для PON. Патчкорды и монтажный кабель в жилом помещении использовать не очень правильно... Не предназначен он для этого.

Почему не предназначен?

А ты не путай магистральный кабель с кабелем для PON.

В чём разница, кроме количества троссиков и слоя изоляции?

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от dk-

Какие примерно бюджеты?

Ну до 70к на всё. Я же для себя беру.

Эх, жаль, что к ноуту это ну вообще никак.

См шапку: TB->PCIe на маках.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от dk-

Какие фирмочки?

Если IB - то Меланокс, конечно. Очень дешево.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от dk-

И б/у с ebay, думаю. Покупать новое, тем более в рашке, - это верный путь к банкротству.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Тогда я лошара. Ибо хотелось бы «уложиться в десятку» :)

TB стоит рассматривать как связку «внешний винт - ноут»?

Может ли надеяться на те же скорости как и при прямом подключении винта?

dk-
()
Ответ на: комментарий от dk-

В зависимости от размеров сети, нужности свитча, скорости IB. 20 и 10 Гбитные IB HBA стоят около 1500-2000 рублей на ebay, вроде. Есть двухпортовки.

TB стоит рассматривать как связку «внешний винт - ноут»?

сандерболт - это фактически pcie. Большая часть устройств работают как TB -> конвертер TB->PCIe -> PCIe чип обычный -> хард. В ряде случае СХД вообще внутри себя имеют обычный PCIe слот и обычный pcie контроллер. Есть и отдельные боксы. Но хз, насколько это всё заработает, т.к. IB придирчивый.

Может ли надеяться на те же скорости как и при прямом подключении винта?

Через TB/10GbE/IB? Да, в любом случае. Все эти технологии на порядок больший канал имеют.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от KRoN73

И поэтому, если скорость важна, то имеет смысл переходить на более быстрые сетевые решения.

Не пойму, зачем ДОМА ТС городит такой огород...Есть решение попроще и подешевле. Берем несколько гиговых сетевух под медь, настраиваем LAG и правильно выбираем механизм балансировки. Профит!

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Не пойму, зачем ДОМА ТС городит такой огород...

Ну, мне гигабита, порой, несколько не хватает. Хотя, конечно, не настолько, чтобы городить огород, но прогресс наступает…

Берем несколько гиговых сетевух под медь

И как по нескольким сетевухам отправить один поток?

KRoN73 ★★★★★
()
Ответ на: комментарий от ktulhu666

В чём разница, кроме количества троссиков и слоя изоляции?

В составе изоляции. Не то чтобы это было сильно важно... Но лучше чтобы все-таки было правильно.

Macil ★★★★★
()
Ответ на: комментарий от andrew667

запили LAG на 1G

Используется на основном десктопе и медиасервере. А также основном сервере виртуализации. Через LACP.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от Macil

В составе изоляции. Не то чтобы это было сильно важно... Но лучше чтобы все-таки было правильно.

Я не понял, в чём разница при прокладки внутри помещения. Про то, что говнокабель могут перегрызть белки или раздавить замерзающей водой - это я знаю. Но мы сейчас не про это говорим, верно?

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от KRoN73

И как по нескольким сетевухам отправить один поток?

Ты сам прекрасно понимаешь про механизмы балансировки (l2, l3, l3+l4 с учетом source и destination). Кроме того надо смотреть, что умеет коммутатор (не любой умеет l3+l4).Чтобы отправить с компа на комп > 1G надо будет заиметь пару 10G сетевух (да еще и коммутатор не меньше, чем штук за 10 долларов и трансиверы с учетом, что у ТС компов больше).
Дорого. А раз дорого, то почему бы не бэкапить одновременно с разных MAC, IP и т.д. (зависит от схемы сети) на одно хранилище ведь это просто и дешево. Ну а если никак нельзя добиться этой балансировки, то тогда надо париться. Не думаю что ТС будет брать сетевухи 10G для каждого сервера - дорого, да и коммутатор в копеечку станет .

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Не пойму, зачем ДОМА ТС городит такой огород...Есть решение попроще и подешевле. Берем несколько гиговых сетевух под медь, настраиваем LAG и правильно выбираем механизм балансировки. Профит!

Уже есть. Включаем LACP на свитче на группе портов, LACP bongind dev поднимаем в линуксе, а не механизм черезжопный включаем.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от KRoN73

И как по нескольким сетевухам отправить один поток?

LACP на свитче. Если нищий и юзаешь мыльницы, то есть минимум 6 вариантов сделать это в линуксе.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Используется на основном десктопе и медиасервере. А также основном сервере виртуализации. Через LACP.

Ну вот, настрой на серваке под бекапы и коммутаторе и правильно выбери механизм балансировки на коммутаторе (ты ж на сервак льешь). Остальное - дорого, хотя кому-то дорого, а кому-то нормально. В моем понимании для дома это пока не нужно. в ДЦ - там вопрос другой.

andrew667 ★★★★★
()
Ответ на: комментарий от ktulhu666

LACP на свитче. Если нищий и юзаешь мыльницы, то есть минимум 6 вариантов сделать это в линуксе.

Я вижу, что ты не совсем знаешь тонкости. Чуть-чуть вникни. 10 сетевух по 1G - это вовсе не то же самое, что 1 на 10G.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Ну вот, настрой на серваке под бекапы и коммутаторе и правильно выбери механизм балансировки на коммутаторе (ты ж на сервак льешь). Остальное - дорого, хотя кому-то дорого, а кому-то нормально. В моем понимании для дома это пока не нужно. в ДЦ - там вопрос другой.

У меня уже всё сделано. Это всё-равно не сравнится с 10Gb+ скоростями.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Я не понял, в чём разница при прокладки внутри помещения.

В количестве выделяемых вредных веществ. В том числе и при горении.

Macil ★★★★★
()
Ответ на: комментарий от andrew667

Я вижу, что ты не совсем знаешь тонкости. Чуть-чуть вникни. 10 сетевух по 1G - это вовсе не то же самое, что 1 на 10G.

Нет, понимаю. Может быть херовая/несколько соединенных коммутационная матрица, задежки больше, поэтому буферы должны быть больше. Плюс вопросы с прерываниями, кэшами на NICaх, и производительностью шины. Ну и TOS, конечно. Что я упустил? А с IB можно сразу в чужие буферы писать :) Или LD_PREALOAD от некоторых вендоров NICов.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Что я упустил?

Самое главное - балансировку трафика. То есть, если у тебя будет 2 гиговых порта в LAG, и ты неверно настроил механизм балансировки, то больше 1G из этого LAGa ты не выльешь. Хоть 10 портов поцепишь, а в итоге все равно будет 1 гигабит.

andrew667 ★★★★★
()
Ответ на: комментарий от andrew667

Самое главное - балансировку трафика. То есть, если у тебя будет 2 гиговых порта в LAG, и ты неверно настроил механизм балансировки, то больше 1G из этого LAGa ты не выльешь. Хоть 10 портов поцепишь, а в итоге все равно будет 1 гигабит.

Так. Сходи на wiki, прочитай про LACP. И на kernel.org про бондинг. И выкини из головы иные методы балансировки в локалочке (если не ставится вопрос избыточности также, конечно).

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от andrew667

В функции LACP балансировка не входит, двоечник. Дела ты не имел, а я часто настраивал и тестировал. Вот тебе весьма общая информация.

http://www.kletka.net/uploads/posts/2012-01/1327201693_not-bad-obama.png
Надо же. На ЛОРе что-то новое рассказали. Сорри, я знал такой тонкости. Просто в моём случае было так: две строчки и ребут на свитче, бондинг в держиме IEEE 802.3ad в линуксах. И увеличиваем TCP-буферы. Всё. И да, всё отлично работает. Вообще, я не думаю, что на современном оборудовании может быть то, что в статье написано, т.к. 802.3ad предназначен именно для простого динамического объединения линков для увеличения скорости. Думаю, проблемы могут быть, когда она их линий имеет бОльшие задержки (одна на прямой витухе, друга - через медиаконверторы, но это бред), либо передаёт с потерями.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от andrew667

Нет, беру свои слова назад. LACP - это 802.3ad . Там четко описана агрегирование. Если работать не будет, то производитель отошел от стандарта. Так что я прав был.

ktulhu666 ☆☆☆
() автор топика
Ответ на: комментарий от ktulhu666

Вообще, я не думаю, что на современном оборудовании может быть то, что в статье написано.

Что значит не может? Я всегда настраиваю, иначе, кроме отказоустойчивости, профита никакого. При подключении к одному коммутатору на сервере обычно ставлю mode=802.3ad.

, т.к. 802.3ad предназначен именно для простого динамического объединения линков для увеличения скорости.

Не может быть такого написано. Скорость работы интерфейса неизменна. Пропускная способность, возможно, увеличится, если правильно подобрать механизм балансировки (часто нужно делать на нескольких участках). Для linux делается так:

xmit_hash_policy=
Подробнее почитай тут. В коммутаторах у разных производителей по-разному в плане команд и доступных для выбора механизмов, но смысл один и тот же. Где-то конфиг мезанизма балансировки задается на коммутаторе глобально (cisco), а где-то можно задать механизм на конкретный LAG (extreme), а это гораздо круче.

andrew667 ★★★★★
()
Ответ на: комментарий от ktulhu666

Нет, беру свои слова назад. LACP - это 802.3ad . Там четко описана агрегирование. Если работать не будет, то производитель отошел от стандарта. Так что я прав был.

В чем ты был прав? То что LACP - это 802.3ad? Так это и ежу известно. Работать будет, ну и толку тебе с того гигабита, когда тебе надо больше. По умолчанию балансировка идет по L2. Бери два компа с двумя сетевухами по гигу, соедини их хоть через коммутатор, хоть напрямую. Настрой LAG. Потестируй сетку между ними. Не видать тебе более 1 гигабита.

andrew667 ★★★★★
()
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.