搜索蜘蛛：什么是robots.txt，要怎么寫？
2023-06-01 分類： 網站建設
作為一名SEOer大家肯定是知道搜索蜘蛛的，但是關于robots.txt這個搜索蜘蛛遵循協(xié)議，卻鮮少有人談起，其實用好robots是很容易為你網站提權的，這里我不廢話了，直接說。
第一，用robots屏蔽網站重復頁
很多網站一個內容提供多種瀏覽版本，雖然很方便用戶卻對蜘蛛造成了困難，因為它分不清那個是主，那個是次，一旦讓它認為你在惡意重復，兄弟你就慘了
User-agent： *
Disallow： /sitemap/ 《禁止蜘蛛抓取 文本網頁》
第二，用robots保護網站安全
很多人納悶了，robots怎么還和網站安全有關系了？其實關系還很大，不少低級黑客就是通過搜索默認后臺登陸，以達到入侵網站的目標
User-agent： *
Disallow： /admin/ 《禁止蜘蛛抓取admin目錄下所有文件》
第三，防止盜鏈
一般盜鏈也就幾個人，可是一旦被搜索引擎“盜鏈”那家伙你100M寬帶也吃不消，如果你做的不是圖片網站，又不想被搜索引擎“盜鏈”你的網站圖片
User-agent： *
Disallow： .jpg$
第四，提交網站地圖
現(xiàn)在做優(yōu)化的都知道做網站地圖了，可是卻沒幾個會提交的，絕大多數(shù)人是干脆在網頁上加個鏈接，其實robots是支持這個功能的
Sitemap： http://www.01netcn.com/sitemap.xml
第五，禁止某二級域名的抓取
一些網站會對VIP會員提供一些特殊服務，卻又不想這個服務被搜索引擎檢索到
User-agent： *
Disallow： /
本文題目：搜索蜘蛛：什么是robots.txt，要怎么寫？
分享URL：http://chinadenli.net/news45/261945.html
成都網站建設公司_創(chuàng)新互聯(lián)，為您提供營銷型網站建設、面包屑導航、外貿建站、動態(tài)網站、網站維護、響應式網站
聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)
猜你還喜歡下面的內容
- 網站優(yōu)化基礎知識 2023-06-01
- 外貿網站優(yōu)化如何降低跳出率 2023-06-01
- 外貿網絡推廣哪個平臺好 2023-06-01
- 外貿網站推廣如何提升外貿B2B推廣效果？ 2023-06-01
- 外貿網站優(yōu)化需要掌握的幾個技巧 2023-06-01
- 外貿網絡營銷推廣的方法有哪些 2023-06-01
- 網站建設與網站設計這樣看！ 2023-06-01
- 做SEO優(yōu)化效果到底怎么樣？ 2023-06-01
- 外貿推廣：外貿網站優(yōu)化基礎操作 2023-06-01
- 互聯(lián)網時代的工業(yè)品品牌建設 2023-06-01
- 外貿網絡營銷中的說明方法 2023-06-01
- 眾多南京網站優(yōu)化公司如何選擇？ 2023-06-01
- 創(chuàng)新互聯(lián)淺談未來網站設計色彩趨勢 2023-06-01
- 外貿網站優(yōu)化有什么秘訣 2023-06-01
- 提升網站轉化率的網頁設計小技巧 2023-06-01
- 外貿推廣需要一個什么樣的網站 2023-06-01
- 外貿推廣如何提升優(yōu)化排名 2023-06-01
- 現(xiàn)在百度怎么優(yōu)化排名？ 2023-06-01
- 網站建設與推廣怎么結合？創(chuàng)新互聯(lián)告訴你 2023-06-01