服务器老被爬虫薅带宽咋整 NightWalker UID:5846 Lv1 4小时前 建站 134 我那个小破站最近流量不对劲,一看日志全是各种扫描器和爬虫,什么GPT的蜘蛛、还有一堆不知道哪来的UA,直接把我带宽吃满了,页面打开都卡成狗。 试过robots屏蔽,但人家根本不鸟。想用防火墙按IP封,但IP换得比翻书还快。有没有老哥搞过反爬策略的?比如用nginx根据UA或者行为特征做限流?或者有现成的模块能挡这些垃圾请求? 主要不想影响正常搜索收录,但也不想让这些玩意白嫖资源。求具体配置思路,最好带点参数细节,我先去试试。 这家伙太懒了,什么也没留下。 0 0