Добрый день.
Нашел документ, который срывает poppler (тестировал на evince и zathura) башню:
https://www.mat.tuhh.de/veranstaltungen/isem18/images/c/c8/Lecture05.pdf
Для воспроизведения нужно открыть документ, сделать масштаб побольше, и начать листать документ. Приложение к концу документа сжирает около 2-х гигов памяти.
Версия poppler 0.28.1.
Update:
Зарепортил баг в апстрим