温馨提示：这篇文章已超过1188天没有更新，请注意相关的内容是否还可用！
Robots协议简介
Robots协议也称为爬虫协议、爬虫规则、机器人协议等，也就是robots.txt，网站通过Robots协议告诉搜索引擎可以抓取哪些页面和不能抓取哪些页面，优化网站的收录和权重。
Robots协议规则
User-agent: * Disallow: /wp-admin/ Disallow: /wp-include/ Disallow: /wp-login* Disallow: /?s=* sitemap: https://域名/wp-sitemap-posts-post-1.xml
在网站根目录创建名为robots.txt的文件，把以上内容粘贴到txt文件内，再把内容的最后一条的“域名”修改成自己网站的域名并保存文件。
免责声明：本文来自不凡博客，不代表贱贱小窝（原刀贱贱博客）的观点和立场，如有侵权请联系本平台处理。
发表评论