尊敬的各位用户,亲爱的站长们,大家好:
近期,我们收到一些对Crawl-delay用法的询问,现明确百度对网站访问频率不再参考该设置,即不支持Crawl-delay配置,如果您希望配置网站针对百度spider的访问频率,建议您使用百度站长平台的抓取压力反馈工具,先查询网站在百度近一个月的天级抓取量趋势图,可调节百度spider每天访问您网站的抓取压力上限,供百度参考,避免百度spider对站点抓取压力过大,造成网站服务器负载及抓取异常。
若担心蜘蛛抓取对服务器造成负担,可以通过抓取压力工具来调整抓取频率:http://bbs.zhanzhang.baidu.com/thread-44-1-1.html
-
广告合作
-
QQ群号:707632017