為WordPress 站點添加 robots.txt其實很簡單。robots協議(也稱為爬蟲協議、爬蟲規則、機器人協議等)，也就是通常添加到網站根目錄的robots.txt 文件，
如何為你的 WordPress 站點添加 robots.txt
為WordPress 站點添加 robots.txt其實很簡單。robots協議(也稱為爬蟲協議、爬蟲規則、機器人協議等)，也就是通常添加到網站根目錄的robots.txt 文件，它的作用在于告訴搜索引擎哪些頁面可以抓取，哪些頁面不能抓取，從而優化網站的收錄結果和權重。
1.用FTP上傳robots.txt到網站根目錄
如果你的網站根目錄還沒有 robots.txt，你可以創建一個，下面是一個基本的 WordPress robots協議：
User-agent: *
Disallow: /feed/
Disallow: /trackback/
Disallow: /wp-admin/
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /xmlrpc.php
Disallow: /wp-
Allow: /wp-content/uploads/
Sitemap: http://example.com/sitemap.xml
你可以把以上代碼保存起來，生成txt格式文本，同過FTP上傳到網站根目錄下。如下圖所示：
2.WordPress 自動創建虛擬 robots.txt 功能。
如果你的網站根目錄不存在真實的 robots.txt，那么可以讓 WordPress 自動創建一個虛擬的 robots.txt （該文件不會真實存在，但是訪問 http://yoursite.com/robots.txt 時可以正常顯示）
將下面的代碼添加到主題的 functions.php 即可：
/**
* 為你的 WordPress 站點添加 robots.txt
* https://www.wpdaxue.com/add-robots-txt.html
*/
add_filter( 'robots_txt', 'robots_mod', 10, 2 );
function robots_mod( $output, $public ) {
$output .= "Disallow: /user/"; // 禁止收錄鏈接中包含 /user/ 的頁面
return $output;
}
注：如果你想添加更多的規則，請復制上面代碼的第 7 行，然后修改一下即可。
訪問 http://yoursite.com/robots.txt 我們可以看到如下內容：
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /user/
也就是說，WordPress 默認已經添加了前 3 行規則了。
robots.txt 涉及到網站的收錄，所以請確保你明白它的書寫方法，保證每條規則都是正確無誤的!
3.WordPress 站點的 robots.txt各項含義
下面分別解釋一下各項的作用：
1、Disallow: /wp-admin/、Disallow: /wp-content/和Disallow: /wp-includes/
用于告訴搜索引擎不要抓取后臺程序文件頁面。
2、Disallow: /*/comment-page-*和Disallow: /*?replytocom=*
禁止搜索引擎抓取評論分頁等相關鏈接。
3、Disallow: /category/*/page/和Disallow: /tag/*/page/
禁止搜索引擎抓取收錄分類和標簽的分頁。
4、Disallow: /*/trackback
禁止搜索引擎抓取收錄trackback等垃圾信息
5、Disallow: /feed、Disallow: /*/feed和Disallow: /comments/feed
禁止搜索引擎抓取收錄feed鏈接，feed只用于訂閱本站，與搜索引擎無關。
6、Disallow: /?s=*和Disallow: /*/?s=*\
禁止搜索引擎抓取站內搜索結果
7、Disallow: /*?*
禁止搜索抓取動態頁面
8、Disallow: /attachment/
禁止搜索引擎抓取附件頁面，比如毫無意義的圖片附件頁面。
--來自億恩Enews
河南億恩科技股份有限公司(www.vbseamall.com)始創于2000年，專注服務器托管租用，是國家工信部認定的綜合電信服務運營商。億恩為近五十萬的用戶提供服務器托管、服務器租用、機柜租用、云服務器、網站建設、網站托管等網絡基礎服務，另有網總管、名片俠網絡推廣服務，使得客戶不斷的獲得更大的收益。
服務器/云主機 24小時售后服務電話：
0371-60135900
虛擬主機/智能建站 24小時售后服務電話：
0371-55621053
網絡版權侵權舉報電話：
0371-60135995
服務熱線：
0371-60135900
