LINUX.ORG.RU
ФорумAdmin

iscsi и 4 инициатора

 , ,


0

4

Добрый день. Дополз я все таки и поднял iscsi таргет на infiniband как родной srp так и по ip, пока тестирую скорость. Но вот возник вопрос. Вот есть у меня 1 таргет и 4 сервера. Теперь не могу понять как мне лучше сделать. У меня задача что бы при падении сервера я мог запустить виртуалки с него на другом сервере. На серверах луны видятся как обычные диски /dev/sdd. Я так понимаю должен применить кластерную фс, что бы у них общий каталог виртуальных машин был или что либо подобное. Извините если что не так написал, просто не могу никак сообразить как такое вообще делается.

Ответ на: комментарий от svr4

Хм, и как же тут drbd применить если это raid1 между серверами. Может на таргете надо какую то кластерную fs использовать, что бы можно было смонтировать на каждом хосте ?

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от Ien_Shepard

Если у тебя подразумевается работающим один сервер (что видно из твоего поста) - то как раз самое оно.

Если нет - то тады ой.

svr4
()
Ответ на: комментарий от svr4

нет, подразумевается простая миграция виртуалок между серверами с единым СХД

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от Ien_Shepard

Как вариант, посмотри, как это делается в том же proxmox. Наверняка там суть написана. Или как это делается в ovirt

DALDON ★★★★★
()
Ответ на: комментарий от no-dashi

спасибо что то новенькое, сейчас посмотрим

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от DALDON

да у проксмокса там ceph, если я сделаю как там, то я еще по сети ethernet данный начну гонять, а зачем это делать если сторейдж есть. Если конечно я не ошибаюсь

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от Ien_Shepard

Ну разнообразия, ради, посмотри чего там в стане VMware творится, и Hyper-V. - Если мне память не изменяет, и там, и там, пришли к выводу, что SMB3 - не плох. Умеет ли оно что-то отличное от ethernet - не ведаю.

DALDON ★★★★★
()
Последнее исправление: DALDON (всего исправлений: 1)

Мое мнение,

Если говорить про офф-лайн миграцию, то можно управлять размещением виртуальных машин и подключением lun через pacemaker. Упала нода, Pacemaker переносит машину (конфигурацию + lun) на другую ноду. Там виртуальная машина стартует как будто после reboot. Простой = время обнаружения падения + время загрузки + [время восстановления базы, fsck и т.п.]. В штатном режиме pacemaker может выклюxить машину на ноде предварительно.

Если мы говорим про онлайн миграцию, которая кстате возможна только при исправной «неисправной» ноде, то дело сложнее и нужна помимо общей файловой системы или что лучше общего блочного устройства еще и синхронизировать память. Тут поле для размышлений...

petav ★★★★★
()
Последнее исправление: petav (всего исправлений: 1)
Ответ на: комментарий от DALDON

та это nfs и тд, это уже на самый крайний случай, не думаю что виртуалки в файлах держать хорошее решение

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от Ien_Shepard

не думаю что виртуалки в файлах держать хорошее решение

Ну, vmware esx в кластере держит виртуалки в файлах VMDK на датасторах, датасторы на NFS или их собственной кластерной VMFS. Я не считаю это решение удачным, но на нем строится всяческое снапшотирование и т.п. хня у ESX

no-dashi ★★★★★
()
Ответ на: комментарий от Ien_Shepard

если я сделаю как там, то я еще по сети ethernet данный начну гонять, а зачем это делать если сторейдж есть

Чтобы зашарить сторадж с 4 хостов, тебе нужна пачке очень недешевого софта и оборудования (система хранения, FC-контроллеры, FC switch), либо ты будешь гонять таки данные по сети (NBD, iSCSI, DRBD, RADOS, ATAoE и тому подобное). SMB3 и NFS таки неплохи, но они создают точку отказа на сторадже.

Я конечно могу дать тебе контакты наших сейлзов на предмет продать тебе отказоустойчивый сторадж, к которому будут прилагаться наши мозги, консультации и юзкейсы, но боюсь вы финансово энто не потянете :-)

no-dashi ★★★★★
()
Ответ на: комментарий от Ien_Shepard

Все эти вещи, так или иначе, уже пройдены в: proxmox/ovirt/RHEV/Hyper-V/VMware. - Написал, в порядке доли рынка (примерно). Так что имеет смысл смотреть как оно сделано там. VMware - кстати, вообще пошли по своему пути (вроде), и теперь за шильдик «VMware совместимо», заставляют пилить прошивку хранилищ под них. Они сказали, что файлы, файловая система это УГ. Мы сделаем своё ни на что не похожее, зато фичастое и крутое. А для более common устройств, они сейчас толкают SMB3. И менее производительное решение это NFS. Ну а не лидеры рынка виртуализации, предлагают: pacemaker/CLVM/Gluster/Ceph.

Virsh, кстати умеет онлайн миграцию, даже без общего хранилища. - Это так, к слову...

Ах да, есть ребята ещё из Америки, которые в DELL своё решение толкают. DELL EVO, кажется. В общем там тоже samba, кластеризованная. По ethernet. :(

DALDON ★★★★★
()
Последнее исправление: DALDON (всего исправлений: 1)
Ответ на: комментарий от no-dashi

ну у меня уже есть storage с сетью на infiniband с его нативным iscsi srp
Осталось найти решение что бы можно всем этим просто управлять было и виртуалки перезапускать на разных хостах. Сейчас все ноды видят все луны стораджа

Ien_Shepard ★★★
() автор топика
Ответ на: комментарий от DALDON

VMware - кстати, вообще пошли по своему пути (вроде), и теперь за шильдик «VMware совместимо», заставляют пилить прошивку хранилищ под них.

Никто никого не заставляет, это называется VAAI и делается это для разгрузки хостов при операциях с дисковой подсистемой, выполняя снэпы, клоны и прочее средствами массива. С недавних пор теперь и VSAN и VVOL, позволяя лепить актив/актив метро-кластеры.

они сейчас толкают SMB3. И менее производительное решение это NFS.

я бы так не сказал, откуда дровишки?

EvgGad_303 ★★★★★
()

Либо NFS, либо iscsi и кластерную фс.

EvgGad_303 ★★★★★
()
Ответ на: комментарий от EvgGad_303

Смотрел оф. презенташки ихние, говорят, что SMB - торт (вполне возможно, оно умеет кластеризацию из коробки, уже). Ну я ж говорю, про ситуацию в целом. Разумеется, в детали нужно вникать более глубже. Так что в целом я правильно сказал, что VMware, идёт в сторону своего VAAI и т.д. В общем, свою экосистему пилят.

DALDON ★★★★★
()
Последнее исправление: DALDON (всего исправлений: 1)
Ответ на: комментарий от DALDON

что SMB - торт

тут есть один нюанс - эти smb на тн файлерах от emc, netapp и ко с виндовым и, тем более, линуксовым общего мало чего имеют окромя совместимости.

EvgGad_303 ★★★★★
()
Последнее исправление: EvgGad_303 (всего исправлений: 2)
Ответ на: комментарий от DALDON

Там такая петрушка у некоторых - заявлена поддержка 3, а на деле может быть только одна или пару фич, надо смотреть по каждому производителю спеки.

EvgGad_303 ★★★★★
()
Ответ на: комментарий от Ien_Shepard

спасибо, для меня вполне подходит оффлайн миграция, почитаю pacemaker

Расскажите о своем решении, когда его примите!

petav ★★★★★
()
Последнее исправление: petav (всего исправлений: 1)

блин, втянулся в тему, походу мой выбор будет - nfs (((
еще повоюю с кластерными fs, iscsi очень хотелось бы все таки применить

Ien_Shepard ★★★
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.