Есть два массива одинаковых (16 бит знаковое) один с данными, второй с
некоторой функцией, равной нулю почти всюду, кроме небольшого кусочка.
Надо сделать их свёртку. Есть ли какие-то стандартные библиотеки,
чтоб быстро это делали? Как там с разного рода overflow/underflow?
ЗЫ Сейчас пока сделал через FFT с плавающей точеой, но скорость
оставляет желать....
Ростислав
Ответ на:
комментарий
от bugmaker
Ответ на:
комментарий
от anonymous
Ответ на:
комментарий
от anonymous
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.
Похожие темы
- Форум свёртка (2007)
- Форум Обратная свёртка (2016)
- Форум исходник свёртки (2008)
- Форум Свертки в haskell (2016)
- Форум Свертка вместо скрытия (2013)
- Форум Что такое свёртка? (2021)
- Форум задача целочисленного программирования (2011)
- Форум [фичреквест] Целочисленное переполнение скора (2011)
- Форум быстрый парсинг целочисленных значений (2015)
- Форум Контейнер больших целочисленных множеств (2015)