Нормально ли использовать сабж для такой задачи: Скачивать каждое утро .gz архив со статистикой с удаленного сервера в размере примерно 1gb и перегонять в базу mongodb. В архиве лежат данные за последний месяц, но нам нужно синхронизировать только последний день.
Проблемы которые были: 1)плагин http_poller для скачки вызывал переполнение стека Java, пока файл весил всего 150mb. Качать пришлось используя curl. 2)кодек gzip_lines не устанавливается в 5 версию logstash, пришлось откатится до версии 2.4 3)не найдена возможность пропускать уже синхронизированные данные, он просто сейчас в начале сыпет кучу ошибок в свой лог и только потом синхранизирует данные за последний день.
Нормально ли его использовать так или лучше переписать на той же яве? Мне кажется это бы быстрее работало и времени на разработку меньше ушло.