LINUX.ORG.RU
ФорумAdmin

[GlusterFS] Толковые гайды по performance tuning'у?

 


0

1

У меня есть Gluster-шара replicated 2, distributed 2 (соответственно, 2х2=4 брика на 4-х нодах). После прямого тюнинга параметров, описанных в админ гайде, «вслепую», удалось поднять производительность на запись с 10,5 до 11,5 Мб/сек. Сеть гигабитная, диски вроде тоже не совсем тупые, хочется побыстрее как-то.
Если кто сталкивался с гластером и настраивал производительность, посоветуйте не совсем протухшие доки на эту тему. В Google находятся в основном протухшие, и это при том, что методология работы с последними версиями кардинально отличается от того, что было даже ещё полтора года назад.
Сейчас смотрю в сторону профайлинга (в гластере он есть, и это хорошо), но вряд ли не зная даже толком, что там можно тюнить, мне этот профайлинг как-то поможет....

★★★★★
Ответ на: комментарий от vertexua

Да, простенький сетевой RAID. В 3.3 они уже правда вводят понятие какого-то object storage'а, но я пока не в курсе, что это даёт и вообще зачем нужно.

DRVTiny ★★★★★
() автор топика
Ответ на: комментарий от anton_jugatsu

Раньше как сторэдж для виртуалок (но опять же, довольно медленный), сейчас - как общее хранилище на рабочих станциях. У нас убунты стоят, Gluster позволил создать простую реплицируемую шару, которую можно монтировать откуда угодно.

DRVTiny ★★★★★
() автор топика

У меня gluster работает со скоростью сети, то есть гигабит выдает. Ты через fuse чтоль его монтируешь? Если да, то монтируй как nfs и скорость сразу в 10 раз возрастет.

Reset ★★★★★
()
Ответ на: комментарий от vertexua

Все гораздо проще. В случае репликации=n он раскидывает один файл на n случайных узлов. При этом файл он никак не разбивает на части. То есть если подохнут все узлы на котором лежит этот файл, то мы потеряем только этот файл, сам же gluster будет нормально функционировать.

Reset ★★★★★
()
Ответ на: комментарий от Reset

А если файл например 500 ГБ, то он по мере записи раскидывает? Или потом? Если сразу, то что если один узел на дайлапе? )

vertexua ★★★★★
()
Ответ на: комментарий от vertexua

Сразу пишет на нужное число узлов. Сам файл никак не раскидывается, то есть 500G полностью должны влезать на узел.

Если сразу, то что если один узел на дайлапе? )

то ССЗБ

Reset ★★★★★
()
Ответ на: комментарий от Reset

Я ФС просто пишу подобную. Эдакий свой опенсорсный проект. Точнее будет опенсорсным с первой рабочей версии.

Там файл будет вваливаться в локальное хранилище очень быстро, со скоростью записи на диске, а трекер будет сразу же просыпаться и припахивать несколько других узлов скачать этот файл по принципу похожему на торрент. Покритикуйте. Факап с тем что узел создавший файл может сдохнуть сразу я знаю, но это возможно будет регулировать какими то опцияви, как вариант

vertexua ★★★★★
()
Ответ на: комментарий от vertexua

Фактически это торрент сеть, работающая по своему протоколу. Отличия 2. Первое - хранится иерархичное дерево всех файлов, потому подключаться может как диск. Второе - распределение ресурсов производят не пользователи, а один или группа трекеров-«мозгов», которые раздают команды кому что качать и сидировать.

vertexua ★★★★★
()
Ответ на: комментарий от DRVTiny

А вот это очень интересно :) Если ни какая не коммерческая тайна, то не мог бы ответить на пару вопросов:

1. Что значит «общее хранилище», типа шары на файловом сервере и т.д.

2. Сколько раб. мест на Убунте

3. Как происходит администрирование парка машин: монтирование хомяка, централизованное хранение учёток, puppet.

anton_jugatsu ★★★★
()
Ответ на: комментарий от vertexua

А чтение как организованно будет? А обновление файлов? А что если 500гиговый файл это образ виртуалки и она в него пишет?

Reset ★★★★★
()
Ответ на: комментарий от DRVTiny

лолшто? работает же с объектами, а не блочными устройствами, не?

parrot
()
Ответ на: комментарий от Reset

Блин, да, через FUSE монтирую :( Кто бы мог подумать, что как NFS быстрее, вроде NFS в плане производительности никогда особого доверия не вызывала.
Насчёт гигабита слабо верится всё же... Мне кажется, у тебя просто здоровый кэш и при измерениях забываешь про sync. Хотя нужно признать, что у меня с синком и без него разница довольно несущественная - меньше 5%.

DRVTiny ★★★★★
() автор топика
Ответ на: комментарий от DRVTiny

Кто бы мог подумать, что как NFS быстрее, вроде NFS в плане производительности никогда особого доверия не вызывала.

Это почему это? NFS по производительности рвет всех.

Монтировать надо так. Обрати внимание на опции. gluster держит только tcp и только 3ю версию протокола!

server:test /mnt/test nfs rw,proto=tcp,nfsvers=3 0 0

Reset ★★★★★
()
Ответ на: комментарий от anton_jugatsu

1. Общее-то оно общее, но при этом распределённое. Там просто четыре машинки делятся каждая одним каталогом (в терминологии gluster'а - brick'ом) на жёстком диске.

2. На Убунте всего три, одно (моё) на OpenSuSE. Народу пока мало в конторе. Если вдруг есть знакомые-талантливые студенты с мехмата или аналогичных кафедр МГУ и Бауманки - милости просим, у нас уютно и даже деньги платят :)

3. Ничего централизованного, кроме разве что мониторинга, у нас нет. Скоро будет вполне себе централизованный вычислительный кластер опять же из рабочих станций (24 Гб памяти, процессоры i7 4х2 в районе ~6400 bogomips) :)

DRVTiny ★★★★★
() автор топика
Ответ на: комментарий от Reset

Спасибо, выручил и чётко по теме :) Я уж не ожидал, что кто-то поможет, вроде гластером у нас народ не особо пользуется.

DRVTiny ★★★★★
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.