Непойму, как написать проверку (на предмет нового контента) в интервале Х секунд. У scrapy есть настройка DOWNLOAD_DELAY (в settings.py), но она по каким-то причинам у меня не сработала. Решил по глупому, разделив логику проверки и логику запуска на два скрипта, check.py и run.py. В run.py просто запускается бесконечный цикл, в одном цикле которого запускается субпроцесс (запускающий check.py), а после, засыпание на Х времени - это работает, но как это решается правильно?
Ответ на:
комментарий
от xxxruxxx
Похожие темы
- Форум scrapy парсить с интервалом новое (2018)
- Форум scrapy (2020)
- Форум scrapy и Qt (2015)
- Форум Парсинг сайта, ScraPy (2014)
- Форум Вертикальные интервалы (2014)
- Форум Доверительные интервалы (2014)
- Форум selenium + scrapy: как подружить? (2016)
- Форум Проблема со стабильностью Scrapy, Splash (2019)
- Форум Максимум непересекающихся интервалов (2015)
- Форум Поиск допустимых интервалов (2017)