360搜索扩展Robots协议

360搜索扩展Robots协议
360搜索作为一个新的搜索引擎,不仅注重安全性、精准性,还提供了可信赖的服务。它依托360母品牌的网络安全优势,全面拦截各类钓鱼

360搜索扩展Robots协议

360搜索作为一个新的搜索引擎,不仅注重安全性、精准性,还提供了可信赖的服务。它依托360母品牌的网络安全优势,全面拦截各类钓鱼欺诈等恶意网站,为用户提供更放心的搜索服务。

1. 360搜索对Robots协议的支持

360搜索支持Robots协议的主要命令,包括使用通配符的user-agent命令。它各产品的爬虫user-agent分别是网页搜索360Spider、图片搜索360Spider-Image和视频搜索360Spider-Video。站长可以通过Allow命令指定建议收录的文件、目录,通过Disallow命令指定不建议收录的文件、目录。

360搜索扩展Robots协议

2. 360搜索对Robots协议的扩展

360搜索根据站长们的反馈,会陆续推出扩展的Robots协议命令。这些命令将能帮助站长们提高和360搜索爬虫沟通的效率,减少站长们维护Robots协议文件的技术成本。360搜索首个扩展命令是)indexpage),站长们可以使用此命令告知360搜索哪些网页经常更新。360搜索会根据站长的指示以及自己的算法,智能调整爬虫抓取频率,实现对网站新内容的更高频率抓取。

3. 360搜索与百度关于Robots协议的争议

360搜索与百度之间曾经就Robots协议有过争议。百度公司认为,奇虎360的行为违背了国际通行的行业规则、不顾百度的权利声明和技术措施,非法抓取、复制百度网站内容,直接以快照形式向网民提供,严重侵害了百度的合法权益,构成了不正当竞争。而360公司则认为,百度公司是在滥用Robots协议,设置歧视性条款以达到限制正当竞争的目的。

360搜索扩展Robots协议

总的来说,360搜索对Robots协议的支持和扩展,既可以帮助站长们更好地管理和控制网站内容的收录,也在其与其他搜索引擎的争议中体现了其对Robots协议的理解和应用。

原创文章,作者:Ur47000,如若转载,请注明出处:https://wyc.retuba.cn/73.html

(0)
Ur47000Ur47000
上一篇 2024年5月21日 下午8:29
下一篇 2024年5月21日 下午8:29

相关推荐