Анонсирована свободная переносимая реализация OpenCL

Why are AMD GPUs faster than Nvidia GPUs?

Firstly, AMD designs GPUs with many simple ALUs/shaders (VLIW design) that run at a relatively low frequency clock (typically 1120-3200 ALUs at 625-900 MHz), whereas Nvidia's microarchitecture consists of fewer more complex ALUs and tries to compensate with a higher shader clock (typically 448-1024 ALUs at 1150-1544 MHz). Because of this VLIW vs. non-VLIW difference, Nvidia uses up more square millimeters of die space per ALU, hence can pack fewer of them per chip, and they hit the frequency wall sooner than AMD which prevents them from increasing the clock high enough to match or surpass AMD's performance. This translates to a raw ALU performance advantage for AMD:

* AMD Radeon HD 6990: 3072 ALUs x 830 MHz = 2550 billion 32-bit instruction per second
* Nvidia GTX 590: 1024 ALUs x 1214 MHz = 1243 billion 32-bit instruction per second

This approximate 2x-3x performance difference exists across the entire range of AMD and Nvidia GPUs. It is very visible in all ALU-bound GPGPU workloads such as Bitcoin, password bruteforcers, etc.

Secondly, another difference favoring Bitcoin mining on AMD GPUs instead of Nvidia's is that the mining algorithm is based on SHA-256, which makes heavy use of the 32-bit integer right rotate operation. This operation can be implemented as a single hardware instruction on AMD GPUs (BIT_ALIGN_INT), but requires three separate hardware instructions to be emulated on Nvidia GPUs (2 shifts + 1 add). This alone gives AMD another 1.7x performance advantage (~1900 instructions instead of ~3250 to execute the SHA-256 compression function).

Combined together, these 2 factors make AMD GPUs overall 3x-5x faster when mining Bitcoins.

Для тех,кто предпочитает картинко.

http://hardocp.com/images/articles/1310552275ShShcHAa4A_2_1.gif

биткоины это только один тест, который еще ничего не доказывает

Собственно, это не тест, а задача, ради которой покупают видеокарточки.

И такие же результаты будут во всех задачах по по подбору хешей. А это целая индустрия.

Совершенно бесполезная индустрия. То ли дело реальные научные вычисления делать, изображения обрабатывать, видео кодировать и т.п.

Если задача хорошо параллелится, то чем больше потоков одновременно будет ее решать, тем лучше. Количество одновременно работающих потоков зависит от количества ALU, в чипах амд их в два раза больше, хотя они и медленней. Поэтому тут ой как все не однозначно.

Когда появится нормальный AMD'шный блоб, который будет по-человечески поддерживать вычисления, а также когда openCL доведут до ума (чтобы не надо было уймы страниц исписывать ради элементарных задач - в общем, как можно ближе к синтаксису CUDA, а то и вообще синтаксису openMP), вот тогда и можно будет что-то конкретное говорить.

>чтобы не надо было уймы страниц исписывать ради элементарных задач - в общем, как можно ближе к синтаксису CUDA, а то и вообще синтаксису openMP

и то и другое нереально. И CUDA и тем более openMP не решают задачи эффективного выполнения кода на принципиально разном оборудовании. Они заточены под один класс железа.

>Совершенно бесполезная индустрия. То ли дело реальные научные вычисления делать, изображения обрабатывать, видео кодировать и т.п.

кому как. Если можно было бы крякнуть сертификат мотороллы в милстоне, я бы поучаствовал в народном ботнете...

А вот могли бы сделать, как в openMP. И что значит «под один класс железа»? Под всякие там спарки/мипсы/армы что, нет OMP?

> AMD designs GPUs with many simple ALUs/shaders

Nvidia's microarchitecture consists of fewer more complex ALUs

Так с выходом топовых чипов 7-ой серии ATI эту ситуацию собирается поправить... в худшую для себя сторону, значит?...

>Когда появится нормальный AMD'шный блоб

Скажи честно, тебя чем-то сильно обидели АТИ-шники? Ты ведь в каждом треде, в котором есть упоминание про ATI/AMD начинаешь кричать про кривой блоб и превосходство нвидии.

Не, может ты в чём-то и прав, но не слишком ли много тебя в видеофлеймах? И говоришь одно и то же. Взрослый человек, пишешь что-то там на сях и CGI, вроде всё по делу, но как доходит до видеокарт - сплошные крики и флуд.

Натура такая скотская.

Уверен, что и opencl не решает. Или решает, но на одном оборудовании (под которое изначально писалось) работает нормально, а на другом тормозит аццки.

интересный тест

gts250 (на древнем чипе g92) практически на равных борется с radeon 5870 в opencl

Это не объективный тест, т.к. под мастдай.

Как раз самый объективный. Под венду у ati драйвера лучше. Под линухом они вообще бы в жопе были.

Вот и я о том же :)

>А вот могли бы сделать, как в openMP. И что значит «под один класс железа»? Под всякие там спарки/мипсы/армы что, нет OMP?

смысл в том, что все равно пишешь под спарк или мипс. А в openCL по идее ты должен писать код, который должен исполняться на том, что есть. Есть ЦПУ, значит ЦПУ, а есть GPU, значит на GPU. А это же совсем разные архитектуры.

смысл в том, что все равно пишешь под спарк или мипс

Да ну? Пишешь одно и то же, а уж что там будет дальше - забота компилятора.

>Да ну? Пишешь одно и то же, а уж что там будет дальше - забота компилятора.

ну так и скажи компилятору, что приложение должно выполняться на мипсе, а если его нет, то на спарке. С openCL все работает именно так.

Чушь-то какая! В момент компиляции генерируется нужный код. Или openCL генерирует сразу для 100500 архитектур? Сколько же тогда конечный бинарник весить будет? O_o

В opencl код генерируется в рантайме.

Так вот почему он тормозит!

// ну и все равно, что мешает сделать нормальный, OMP-подобный синтаксис?

Не по этому. Тормозит только первоначальная загрузка.

Скоро видеоядра с поддержкой OpenCL будут встроены и в процессоры Intel и в процессоры AMD. Перспективы Cuda очень мрачные, как и всей NVidia. Если только они свой Кал-Ел в массы не продвинут.

>// ну и все равно, что мешает сделать нормальный, OMP-подобный синтаксис?

По идее, потому что приходится учитывать принципиальную разнородность среды исполнения. Тут одно из трех.

Или простой синтаксис и виртуальная машина, скрывающая в себе архитектурные различия с соответствующим оверхедом, или простой синтаксис и одна конкретная архитектура, как в cuda или openmp, или сложный синтаксис, позволяющий реализовать оптимальный код в разных условиях, как в openCL.

Я не был бы уверен, что куда её компилирует. Может и заворачивает в строку для дальнейшей загрузки. Там же прекомпайлер. Надо изучать.

рантайм компиляция в куде тоже есть, но нафиг она нужна если можно обыкновенным образом скомпилировать и слинковать?

одна конкретная архитектура, как в cuda или openmp

Еще раз: openmp для не-x86 архитектур не существует?

> Так с выходом топовых чипов 7-ой серии ATI эту ситуацию собирается поправить... в худшую для себя сторону, значит?

Ну так биткойны по два бакса уже не сильно интересны, а в играх и особенно научных вычислениях прирост будет.

openmp нет для вычислений на GPU

Для GPU есть CUDA, а я спрашивал про MIPS/APM/PPC/etc.

Вы по-разному понимаете слово архитектура. У всех называнных тобой процессоров - одна «архитектура» - там мало ядер на кристалле, и они выполняют малопараллельные инструкции. У видеокарт на кристалле сотни ядер, и они выполняют «VLIW» инструкции.

Есть. Например на PowerMac G4. http://upload.wikimedia.org/wikipedia/commons/4/46/PowerMac_G4_MDD_open.jpg

> что позволяет запускать ядра OpenCL на CPU
... но зачем? Гемор с OpenCL оправдан только если надо максимальную производительнось даже ценой геморроя. А это уж точно не о обычных процессорах.

testing purposes?

Очевидно: чтобы код, написанный на OpenCL завёлся даже на тех машинах, где нет поддержки его выполнения видеокартой. Без ускорения, зато не было сообщений вида «калькулятор не поддерживается вашим оборудованием, обновите видеокарту».

И чтобы можно было использовать OpenCL в программах не задумываясь о его поддержке и не рисуя запасной вариант самостоятельно.

Объясните, этим поделием можно пользоваться, если имею на одном компе видеокарту от нвидиа, а на другом (ноутбук) от интела? Чтобы один раз код написать и в двух местах запустить?

И процессор оно может задействовать?

Но этого пользовался реализацией opencl от nvidia (в составе cuda-sdk), так она, сволочь, ни CPU не хочет задействовать, ни где-то ещё не запустится (где нет видяхи от нвидиа)

Или мне пользовать cuda и не парить моск?

Объясните, этим поделием можно пользоваться, если имею на одном компе видеокарту от нвидиа, а на другом (ноутбук) от интела? Чтобы один раз код написать и в двух местах запустить?

Нет.

И процессор оно может задействовать?

Да.

Или мне пользовать cuda и не парить моск?

Да.

А вообще, лучше сделать код, который в момент компиляции будет проверять, есть ли видеокарта, и если есть - использовать GPU, а если нет - компилировать функции для CPU (pthreads, openmp). ИМХО, надежнее.

Гентушник?

Нет. См. профиль.

> Но этого пользовался реализацией opencl от nvidia (в составе cuda-sdk), так она, сволочь, ни CPU не хочет задействовать, ни где-то ещё не запустится (где нет видяхи от нвидиа)

В винде то же самое, а библиотека от ATi умеет делать CPU виртуальным устройством OpenCL, причём для каждого ядра по устройству.

Тогда ты предлагаешь тысячи вариантов одного пакета?

Зачем? При чем здесь тысячи вариантов?

Ты сам написал:

А вообще, лучше сделать код, который в момент компиляции будет проверять, есть ли видеокарта, и если есть - использовать GPU, а если нет - компилировать функции для CPU (pthreads, openmp). ИМХО, надежнее.

Ладно... ок =)

вопрос проще (и актуальнее для меня в данный момент).

смогу ли я запустить уже написанный кем-то opencl-код (если точнее, pyopencl), не изменяя там ни строчки на компьютере с видеокартой хотя бы nvidia?

Венда то мне зачем?

Если он написан по стандарту и нвблоб этот стандарт поддерживает — то да.

OpenCL как раз и разрабатывался для того, чтобы быть переносимым.

Ну и в чем сложность? Я так и сделал. cmake проверяет, есть ли в системе СUDA. Если есть - компилирует для GPU, если нет - для CPU.