Размер зависит от памяти GPU, естественно.

Возьми число ячеек в исходной сетке, умножь на 4B или 8B (float/double), плюс примерно столько же заложи на буфер. Это если делать иin-place. Сколько у тебя в видеокарте, 8 гигов? Ну вот

Точный размер требуемого буфера для внутренних нужд cuFFT можно получить специальной функцией, посмотри в доке

Не будет ли возня с cudo-й слишком долгой, из-за копирования туда-сюда больших массивов?

А ты не копируй.

спасибо за советы

всё-таки еще попробую поуточнять. У меня код следующего плана

for i=1,NN begin
  in=make_input(i);
  out=fft(in,forward);
  in=out*C1;
  out=fft(in,forward);
  in=out*C2;
  out=fft(in,forward);
  in=out*C3;
  total = total + in^2;
end

Соответственно in, out, C1, C2, C3 и total - двумерные массивы, там где умножение - там поэлементное. Процедура make_input достаточно хитрая, интерполирует численно рассчитанную функцию. Избавиться от переменных C1, C2 и C3 не выходит. Разбросать цикл по разным MPI процесса - уже сделал и работает (сейчас у меня NN может быть 20000), но как раз ищу другое решение. Вот и вопрос, правильно ли я понимаю что нужно будет in и out гонять из памяти в память и даст ли тут cufft прирост?

может ты опять что посоветуешь?

буду благодарен

Фига у тебя embarrassingly parallel задачка

make_input может отработать на GPU? In-place FFT2D есть? Тогда тебе нужна из всего копирования только выгрузка с GPU финального out куда ты там его собрался выгружать.

Нет, гонять ничего не придётся. Но придётся написать собственный небольшой kernel, чтобы делать эти самые умножения внутри глобальной памяти. Такой kernel пишется тривиально, почитай туториалы

а о прошлом годе изволил ...

... Федор Кузьмич, слава ему, сочинить шопенгауэр, а это вроде рассказа, только ни хрена ни разберешь.