PHPCMS v9 的robots.txt文件詳解

2016-09-04 分類：網(wǎng)站建設(shè)

robots.txt是一個協(xié)議，而不是一個命令。robots.txt是搜索引擎中訪問網(wǎng)站的時候要查看的第一個文件。robots.txt文件告訴蜘蛛程序在服務(wù)器上什么文件是可以被查看的。當(dāng)一個搜索蜘蛛訪問一個站點時，它會首先檢查該站點根目錄下是否存在robots.txt，如果存在，搜索機器人就會按照該文件中的內(nèi)容來確定訪問的范圍；如果該文件不存在，所有的搜索蜘蛛將能夠訪問網(wǎng)站上所有沒有被口令保護(hù)的頁面。百度官方建議，僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請勿建立robots.txt文件。關(guān)于robots.txt文件的寫法,我們來看一下phpcms內(nèi)容管理系統(tǒng)的robots.txt文件:

#
# robots.txt for PHPCMS v9
#
User-agent: * 這里的*代表的所有的搜索引擎種類，*是一個通配符
Disallow: /caches/禁止爬尋緩存目錄下的所有文件
Disallow: /phpcms/禁止爬尋phpcms的核心目錄下的目錄
Disallow: /install/禁止訪問安裝包目錄下的目錄
Disallow: /phpsso_server/禁止爬尋phpsso_server目錄下的目錄
Disallow: /api/禁止爬尋接口目錄下的目錄
Disallow: /admin.php/ 這里定義是禁止蜘蛛爬尋admin目錄下面的目錄

上面的robots.txt文件的寫法，都是禁止蜘蛛爬尋相關(guān)目錄的，那么允許爬尋目錄怎么寫呢？
我們把上面的寫法改成允許蜘蛛爬尋目錄：只需把“Disallow”替換成“Allow”即可。當(dāng)然這樣做是沒有意義的，一般情況下，我們只寫禁止爬尋的目錄，默認(rèn)情況下都是允許訪問的。

如果我們不設(shè)置禁止爬尋目錄會出現(xiàn)什么情況呢？

比如我們把上面的"Disallow: /admin.php/"改成"Allow: /admin.php/"，
這樣也就允許蜘蛛爬尋網(wǎng)站后臺的相關(guān)網(wǎng)頁，當(dāng)我們在百度搜索時，有時看到一篇文章，我們點擊，打開的網(wǎng)頁告訴你沒有權(quán)限查看。有些情況下，我們不允許蜘蛛爬尋某些頁面鏈接的某部分。比如很多論壇或者博客的評論，允許游客寫個人主頁的鏈接，當(dāng)游客發(fā)表評論時昵稱會帶上個人主頁的超鏈接，當(dāng)我們點擊時會跳轉(zhuǎn)到個人主頁。這個功能可以使個人主頁帶來更多的展現(xiàn)機會。后面的部分是評論者所寫的個人主頁的鏈接。大家當(dāng)然看不明白，因為我用函數(shù)處理過了。我的robots.txt文件是這樣寫的：
Disallow: /tourl/* 這是告訴蜘蛛，不要爬尋http://seo.cdkjz.cn/wangzhan后面的鏈接了。這樣做的作用是，防止本網(wǎng)站的權(quán)重分流到比本站權(quán)重低的網(wǎng)站去。站長們在做友情鏈接時，一般都是要求交換pr值相等鏈接，原因也就在于此。

標(biāo)題名稱：PHPCMS v9 的robots.txt文件詳解
文章轉(zhuǎn)載：http://chinadenli.net/news16/46116.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站設(shè)計公司、做網(wǎng)站、營銷型網(wǎng)站建設(shè)、企業(yè)網(wǎng)站制作、商城網(wǎng)站、網(wǎng)站內(nèi)鏈

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源：創(chuàng)新互聯(lián)

猜你還喜歡下面的內(nèi)容

成都網(wǎng)絡(luò)公司哪家好？ 2016-09-04
成都網(wǎng)站定制造成失敗的原因有哪些？ 2016-09-04
網(wǎng)站備案時域名證書上的域名所有人必須和主辦單位一致？ 2016-09-03
成都現(xiàn)在有多少家網(wǎng)絡(luò)公司？ 2016-09-03
創(chuàng)新互聯(lián)開通站長博客 2016-09-03
今天我下決心更改創(chuàng)新互聯(lián)的網(wǎng)站標(biāo)題了 2016-09-03

欧美一区二区三区老妇人-欧美做爰猛烈大尺度电-99久久夜色精品国产亚洲a-亚洲福利视频一区二区

PHPCMS v9 的robots.txt文件詳解