运营知识 - 第5页 - 青舟网络

1、搜索引擎在爬取网站前会做什么？一般来说搜索引擎爬取网站时都会，先读取下robots.txt文件，并依照里面所设定的规则去爬取网站（当然是指没用登录限制的页面） 2、robots.txt文件的内容和结构是怎样的？ 1）.robots.txt文

青舟网络

1392