请前往标签设置摘要
1、robotstxt协议是一种存放于网站根目录下的ASCII编码的文本文件,它用于告诉网络搜索引擎的漫游器又称网络蜘蛛,此网站中的哪些内容是不应被搜索引擎的漫游器获取的,哪些是可以被漫游器获取的因为一些系统中的UR...