使用gunicorn+flask框架,同时通过apscheduler实现对一款爬虫的定时调用,但是在这其中遇到了一个问题,如下:
1,我利用shell终端,通过gunicorn -c直接运行,然后通过flask构造url调用爬虫,并在终端观察输出信息,可以完美调用爬虫。但是当我运行gunicorn -c之后,关闭终端,则爬虫不能完美运行,通过对爬虫调试,发现在运行一段时间后就被终止。
2,之后我在爬虫中使用os.system('nohup python spider.py &'),并且一直打开终端可以完美运行,但是在关闭终端的情况下,又无法执行到底。
所以请问大家怎么来看一下这个脚本运行中为何自动结束。或者说产生的原因是什么。
你這個進程沒有脫離終端,終端關閉後,和終端關聯的所有子進程全被終止,沒有任何輸出。
建議把spaider.py做成daemon進程,脫離終端的控制。
記錄
謝謝大家的答案,真正的原因已經找到,是因為由於調試過程的print輸出過多,導致超過緩存,導致進程結束。
雖然你將進程放在後台執行,但是並沒有跟啟動該進程的終端detach,因此,父進程shell終端關閉,子進程也將被關閉。
解決方案1,可以參考How to make a Python script run like a service or daemon in Linux,教你如何在linux下編程將進程做成daemon進程。範例程式比較長,我放在最後講解吧。
解決方案2,有python函式庫可以將自身進程daemon化,而且還挺多的。比如,python-daemon。使用範例如下:
補充解決方案1的處理: