Проблемы масштабируемости Linux.

0

0

Были недавно обнаружены инженерами SGI, которые запустили Linux на 4096-процессорной системе. По их словам конфигурация по-умолчанию ядра Linux не позволяет работать на подобном оборудовании из-за слишком большого количества ядерных потоков, создаваемых для каждого процессора для повышения производительности, поэтому инженерам SGI потребовалось приложить поистине титанические усилия для решения этой проблемы - увеличить лимит на максимальное количество процессов в системе.

Так же были обнаружены проблемы при включении дополнительных модулей - это отнимало слишком много времени в waitpid(), для решения этой задачи были предложены несколько вариантов.

Поэтому если у вас есть 4096-процессорная система, для запуска Linux вам необходимо применить один или два небольших патча.

>>> Подробности

Ссылка

←	DoS через IP в Sun Solaris 8 и 9

Вышла новая версия ddnsbl 0.4.0

→

← 1 2 →

А ведь действительно, будет куча процессов [migration/n] [ksoftirqd/n] [events/n] [kblockd/n] [aio/n] etc/n для каждого процессора? Этак чтобы получить список процессов и найти в нём нужное - надо будет приделывать дополнительные ключи к ps ;)

Deleted
(20.04.07 13:03:54 MSD)

Ссылка

Да, я тоже на своем буке томоза заметил :(

anonymous
(20.04.07 13:24:41 MSD)

Ссылка

придется поставить пару патчей на мой КПК :(

madstorm
(20.04.07 13:31:25 MSD)

>>Поэтому если у вас есть 4096-процессорная система, для запуска Linux вам необходимо применить один или два небольших патча.

Горе мне. Завтра как раз собирался купить такую систему, теперь придётся остановится на жалком core 2 duo)

TALKER
(20.04.07 13:31:38 MSD)

Ссылка

>Поэтому если у вас есть 4096-процессорная система, для запуска Linux вам необходимо применить один или два небольших патча.

Да у меня на крыше этих процессоров целых 100 000 000...

С Уважением, Карлсон :)

forcis
(20.04.07 13:32:38 MSD)

Ссылка

Система из 6 букв которая не работает без патчей?

anonymous
(20.04.07 13:36:23 MSD)

Ответ на: комментарий от anonymous 20.04.07 13:36:23 MSD

>Система из 6 букв которая не работает без патчей?

Выньда?

blaster999 ★★
(20.04.07 13:39:28 MSD)

Ссылка

Ответ на: комментарий от anonymous 20.04.07 13:36:23 MSD

>Система из 6 букв которая не работает без патчей?

Linux - 5 букв :( Windows - 7 букв :) Irix - 4 буквы Solaris - 7 букв FreeBSD - 7 букв OpenBSD - 7 букв NetBSD - 6 букв... Я УГАДАЛ ?!!!

Art_Navsegda
(20.04.07 13:45:02 MSD)

Ответ на: комментарий от Art_Navsegda 20.04.07 13:45:02 MSD

MacOS X - тоже 6 букв (если не считать пробел).

blaster999 ★★
(20.04.07 13:48:05 MSD)

Ссылка

тогда как IBM решает подобные проблемы на своих мейнфреймах?? или я недопонял чего ?

vh
(20.04.07 13:51:00 MSD)

Ответ на: комментарий от Art_Navsegda 20.04.07 13:45:02 MSD

Art_Navsegda +1 :-)

anonymous
(20.04.07 13:51:01 MSD)

Ссылка

Ответ на: комментарий от madstorm 20.04.07 13:31:25 MSD

а я голову ломал почему мои электронные наручные часы отстают :(

anonymous
(20.04.07 13:52:08 MSD)

Ссылка

Ответ на: комментарий от anonymous 20.04.07 13:36:23 MSD

>Система из 6 букв которая не работает без патчей?

Windoz?

I3rain ★
(20.04.07 13:54:09 MSD)

Дык в чём проблема, они же сами признавались, что на этот Зюзероутер Зюзя водружена почётно и с помпой. А этот огрызок от Новеля что хочешь затормозит, пропорционально числу процессоров - сунешь 8192, ещё в 2 раза медленнее модули подгружаться будут.

А по делу - дык давно было известно, что линукс на больших тачилах да под нагрузкой хуже Солярки себя ведёт, ну так то поправят, не сегодня - так в недалёком будущем.

~~Gharik~~ ☆
(20.04.07 14:00:50 MSD)

Ответ на: комментарий от Gharik 20.04.07 14:00:50 MSD

>>А по делу - дык давно было известно, что линукс на больших тачилах да под нагрузкой хуже Солярки себя ведёт

Не верю я тебе, анонимусам верю) Анонимус хотел сказать , но постеснялся почему-то.

>>Система из 6 букв которая не работает без патчей?

Я скажу : виста на 4096-ти процессорах всех зарулит красивым интерфейсом.

TALKER
(20.04.07 14:05:44 MSD)

Ссылка

Блин!!! 4096 процессоров! Интересно, на каком предельном количестве процев пускали оффтопик и что из этого получилось?

anonymous
(20.04.07 14:06:23 MSD)

Ответ на: комментарий от Gharik 20.04.07 14:00:50 MSD

>А по делу - дык давно было известно, что линукс на больших тачилах да под нагрузкой хуже Солярки себя ведёт, ну так то поправят, не сегодня - так в недалёком будущем.

Для тех, кто в танке - ирония новости в том, что для запуска Linux на такой системе потребовалось всего лишь изменить лимит на максимально-допустимое количество процессоров.

Solaris _вообще_ не масштабируется на подобном уровне. Почитайте на досуге перепалку инженера Sun Jeff Bonwick (автора SLAB memory allocator, btw) и David Miller (sparc maintainer в Linux).

http://blogs.sun.com/bonwick/entry/solaris_inside

http://vger.kernel.org/~davem/cgi-bin/blog.cgi/2007/04/10#bonwick_scalability

http://vger.kernel.org/~davem/cgi-bin/blog.cgi/2007/04/10#more_solaris_fud

rtc ★★
(20.04.07 14:07:22 MSD) автор топика

Ответ на: комментарий от Gharik 20.04.07 14:00:50 MSD

> А по делу - дык давно было известно, что линукс на больших тачилах да под нагрузкой хуже Солярки себя ведёт, ну так то поправят, не сегодня - так в недалёком будущем.

Просто ради интереса: укажите компьютеры с числом процессоров, скажем 1024, работающие под Солярой.

annoynimous ★★★★★
(20.04.07 14:12:49 MSD)

Ответ на: комментарий от vh 20.04.07 13:51:00 MSD

> тогда как IBM решает подобные проблемы на своих мейнфреймах?? или я недопонял чего ?

А они не гоняют все в одном кернеле, а запускают много Линух ВМ. Тогда к каждой ВМ требования как десктопу.

dimag ★
(20.04.07 14:19:35 MSD)

Ссылка

Ответ на: комментарий от I3rain 20.04.07 13:54:09 MSD

MS-DOS

mushroom0
(20.04.07 14:26:18 MSD)

Ссылка

Ответ на: комментарий от rtc 20.04.07 14:07:22 MSD

>максимально-допустимое количество процессоров.

Гм, процессоров или процессов?

anonymous
(20.04.07 14:33:10 MSD)

Ответ на: комментарий от annoynimous 20.04.07 14:12:49 MSD

>Просто ради интереса: укажите компьютеры с числом процессоров, скажем 1024, работающие под Солярой.

Саныч! Скажим... А что они солярку обижают! :(
Чего пристали то? Про солярку топик?

:)

Это конечно плохо что без бубна не получилось но 4 тыщах просессоров запустить, но ведь запустили! Так что новость скорее позитивная чем негативная. Типа, напильником подпилили, и все в шоколоаде!

vada ★★★★★
(20.04.07 14:44:09 MSD)

Ссылка

Ответ на: комментарий от Gharik 20.04.07 14:00:50 MSD

>Дык в чём проблема, они же сами признавались, что на этот Зюзероутер Зюзя водружена почётно и с помпой. А этот огрызок от Новеля что хочешь затормозит, пропорционально числу процессоров - сунешь 8192, ещё в 2 раза медленнее модули подгружаться будут.

Слишком много букф.., я нипомамаю =)

dragon_djanic ★★
(20.04.07 14:51:01 MSD)

Ссылка

от спасибо, а я дурак изовсех сил клянул свою машинку, думал 3985-й процессор нагнулся!

lester_dev ★★★★★
(20.04.07 14:53:09 MSD)

Ссылка

Дома как раз такая стоит ))) А че? Соляра не обламывается

norther
(20.04.07 14:56:29 MSD)

Ссылка

Ответ на: комментарий от anonymous 20.04.07 14:33:10 MSD

>Гм, процессоров или процессов?

Процессов (максимальное по умолчанию 32768).

rtc ★★
(20.04.07 15:00:01 MSD) автор топика

Ссылка

Ответ на: комментарий от rtc 20.04.07 14:07:22 MSD

>Для тех, кто в танке - ирония новости в том, что для запуска Linux на такой системе потребовалось всего лишь изменить лимит на максимально-допустимое количество процессоров.

>Solaris _вообще_ не масштабируется на подобном уровне. Почитайте на досуге перепалку инженера Sun Jeff Bonwick (автора SLAB memory allocator, btw) и David Miller (sparc maintainer в Linux).

А зачем тогда патчи, если изменить лимит на максимально-допустимое количество процессоров можно в $ make menuconfig при сборке ядра?

Насчет Солярки не знаю.. Вот, что написано для 9-тки:

Ниже перечислены некоторые возможности масштабирования и поддержки в операционной системе Solaris 9 "тяжелых" систем и приложений: один миллион одновременно работающих процессов в одной системе;

до 128 процессоров в одной системе и до 848 процессоров в кластере; до 576 Гбайт физической оперативной памяти в одной системе; более четырех миллиардов сетевых соединений; файловые системы размером до 252 Тбайт с использованием Sun StorEdge QFS; 128-разрядная IP-адресация IPv6; 64-разрядная виртуальная машина Java

dragon_djanic ★★
(20.04.07 15:00:56 MSD)

Ответ на: комментарий от vh 20.04.07 13:51:00 MSD

>тогда как IBM решает подобные проблемы на своих мейнфреймах??

Установкой AIX :)

signal
(20.04.07 15:06:52 MSD)

Ссылка

Ответ на: комментарий от dragon_djanic 20.04.07 15:00:56 MSD

> до 128 процессоров в одной системе и до 848 процессоров в кластере

Абалдеть.. тут пускают на 4096 процессорах _в_одной_системе_, а солярка хвастается 128-ю. 848 кластеров - промолчу.

смотрите http://top500.org/stats/28/os/ - солярка крутится аж на пяти машинах из 500-та! Вот это действительно масштабируемость! Никто и рядом не стоял.

anonymous
(20.04.07 15:09:01 MSD)

Ответ на: комментарий от annoynimous 20.04.07 14:12:49 MSD

>Просто ради интереса: укажите компьютеры с числом процессоров, скажем >1024, работающие под Солярой.

Топовые SunFire 15k в полной комплектации вроде

signal
(20.04.07 15:09:41 MSD)

Ответ на: комментарий от anonymous 20.04.07 13:36:23 MSD

> Система из 6 букв которая не работает без патчей? MS-DOS \ PC-DOS ??? =)

biophreak
(20.04.07 15:14:27 MSD)

Ссылка

Ответ на: комментарий от anonymous 20.04.07 15:09:01 MSD

>Абалдеть.. тут пускают на 4096 процессорах _в_одной_системе_, а солярка >хвастается 128-ю. 848 кластеров - промолчу.

Успокойся - тут тоже наверняка кластер. Просто один инстанс ОС всем рулит.

>смотрите http://top500.org/stats/28/os/ - солярка крутится аж на пяти >машинах из 500-та!

Там тоже основная масса - кластерные реализации.

> Вот это действительно масштабируемость! Никто и рядом не стоял.

Маштабируемость в солярке _линейна_ те грубо говоря поставив 4 процессора вместо двух получишь двукратный прирост скорости. В линуксе же она скачет.

signal
(20.04.07 15:16:25 MSD)

А где этот патч скачать можно? И перестанет ли тогда дум тормозить на моих 65536-ти процессорах?

Pythagoras ★★
(20.04.07 15:18:35 MSD)

Ссылка

Ответ на: комментарий от signal 20.04.07 15:16:25 MSD

> Маштабируемость в солярке _линейна_

Что, Соляра обошла закон Амдала? ;)

tailgunner ★★★★★
(20.04.07 15:19:59 MSD)

Ссылка

Ответ на: комментарий от dragon_djanic 20.04.07 15:00:56 MSD

>>Solaris _вообще_ не масштабируется на подобном уровне.

>А зачем тогда патчи, если изменить лимит на максимально-допустимое количество процессоров можно в $ make menuconfig при сборке ядра?

Процессов, не процессоров. Это можно изменить даже через /proc (/proc/sys/kernel/threads-max), но только после загрузки userspace, но по умолчанию только ядерных стартут около десятка на каждый процессор, поэтому SGI'шная машина просто не могла стартовать, и они увеличили этот лимит патчем в одну строчку, может быть еще изменили алгоритм вычисления pidhash_shift.

>Насчет Солярки не знаю.. Вот, что написано для 9-тки:

>Ниже перечислены некоторые возможности масштабирования и поддержки в операционной системе Solaris 9 "тяжелых" систем и приложений: один миллион одновременно работающих процессов в одной системе;

>до 128 процессоров в одной системе и до 848 процессоров в кластере; до 576 Гбайт физической оперативной памяти в одной системе; более четырех миллиардов сетевых соединений; файловые системы размером до 252 Тбайт с использованием Sun StorEdge QFS; 128-разрядная IP-адресация IPv6; 64-разрядная виртуальная машина Java

И? В Linux максимальное количество процессов определяется только изменяемой из userspace переменной и количеством физической памяти (не более половины оной может быть использовано для создания task_struct).

Более 4 миллиардов сетевых соединений наверняка идет из максимального 32 значения... Что само по себе странно, если в качестве ключа используется локальный IP адрес, удаленный IP aдрес и порты - как в Linux.

rtc ★★
(20.04.07 15:23:35 MSD) автор топика

Ответ на: комментарий от rtc 20.04.07 15:23:35 MSD

>Более 4 миллиардов сетевых соединений наверняка идет из максимального 32 значения...

... 32-битного ...

rtc ★★
(20.04.07 15:25:36 MSD) автор топика

Ссылка

Ответ на: комментарий от rtc 20.04.07 14:07:22 MSD

>Для тех, кто в танке - ирония новости в том, что для запуска Linux на такой системе потребовалось всего лишь изменить лимит на максимально-допустимое количество процессоров.

самая соль новости в том, что http://www.sgi.com оклемалась и снова вместо кластеров ставит рекорды по количеству процессоров в одной системе;
ну а в Linux - никто не сомневался.

Anonymous ★★★★★
(20.04.07 15:43:19 MSD)

Ответ на: комментарий от Anonymous 20.04.07 15:43:19 MSD

Чорт, а патчи тоже по ссылке? Тормоза в Quake 4 задолбали ;(

~~FiXer~~ ★★☆☆☆
(20.04.07 16:07:21 MSD)

Ссылка

Ответ на: комментарий от anonymous 20.04.07 14:06:23 MSD

> Интересно, на каком предельном количестве процев пускали оффтопик и что из этого получилось?
Вряд ли на очень большом - никаких денег на лицензию не хватит. :)

anonymous
(20.04.07 16:11:24 MSD)

Ссылка

непременно воспользуюсь.. вот только 4094 процессора завтра куплю.. А если серьезно, то интересно, и радует, что Linux все более совершенствуется и занимает достойное место на майнфреймах..

My_quest ★★★★★
(20.04.07 16:18:42 MSD)

А выражение, "поистине титанические усилия", в новости, лучше взять в кавычки, а то ведь действительно можно поверить, что совершен титанический прорыв.

anonymous
(20.04.07 16:23:12 MSD)

Ссылка

Под мои 8192 процессора не патчится :-(

anonymous
(20.04.07 16:32:09 MSD)

Вот радуют меня инженеры из SGI. Вместо того, чтобы, как Sun'овцы фигнёй страдать и с лицензиями воевать. Тихонько делают что надо. Увеличивают масштабирование, портируют xfs. И не жужжат.

atrus ★★★★★
(20.04.07 16:43:26 MSD)