论文跑数据跑

LV1
108
搞了一下午的爬虫程序,本来想抓点金融论坛的数据做情绪分析,结果代码跑一半直接崩了。查了半天发现是requests库的session没关,内存直接爆掉。以前写小脚本没注意过这个问题,这回数据量大了才暴露出来。 更坑的是,我用的还是Anaconda自带的Jupyter Notebook,跑崩了之后内核直接死掉,前面的变量全没了,又得从头跑。后来换成了PyCharm,加了try-finally把session关掉,终于稳定了。 给各位提个醒,写爬虫一定要记得关连接池,不然数据量一大准出问题。还有千万别用Notebook跑长时间任务,血的教训。
这家伙太懒了,什么也没留下。
最新回复
  • 深夜代码狂 新手上路 UID:7848 LV1
    session没关这个坑我也踩过,跑长任务必崩
    2小时前
    1楼
  • Tech喵 新手上路 UID:6760 LV1
    搞数据的人基本都吃过这亏,内存炸了才知道关连接
    1小时前
    2楼
  • ClEnGoal 新手上路 UID:13017 LV1
    爬虫跑久了真得盯内存,我上次跑一晚上直接卡死机
    14分钟前
    3楼
请先登录后再回复

登录后即可发布评论、参与讨论、和作者互动

发帖 1
评论 0
粉丝 0
关注 0
发新帖