一個(gè)網(wǎng)站,想要獲得搜索引擎的認(rèn)可,那么就得解決蜘蛛爬行抓取問(wèn)題,作為站長(zhǎng),每天都希望蜘蛛每天都來(lái),來(lái)的越勤,越快越好,如果網(wǎng)站無(wú)任何阻礙因素,蜘蛛肯定是很樂(lè)意爬行這樣的網(wǎng)站的,但是不是所有的網(wǎng)站都能為蜘蛛爬行開(kāi)綠色通道,究竟哪些因素會(huì)讓蜘蛛難以自由爬行抓取呢?
錯(cuò)誤的robots
蜘蛛來(lái)到一個(gè)網(wǎng)站,首先會(huì)訪(fǎng)問(wèn)這個(gè)網(wǎng)站的根目錄下的robots,如果你寫(xiě)入了相應(yīng)的規(guī)則,比如整站禁止蜘蛛爬行,哪么蜘蛛是不會(huì)爬行的
與首頁(yè)點(diǎn)擊距離。
一般來(lái)說(shuō)網(wǎng)站上權(quán)重最高的是首頁(yè),大部分外部鏈接是指向首頁(yè)的,蜘蛛訪(fǎng)問(wèn)最頻繁的也是首頁(yè)。離首頁(yè)點(diǎn)擊距離越近,頁(yè)面權(quán)重越高,被蜘蛛爬行的機(jī)會(huì)也越大。
錯(cuò)誤的sitemap
蜘蛛訪(fǎng)問(wèn)完robots后,就會(huì)訪(fǎng)問(wèn)sitemap,如果網(wǎng)站地圖格式或者路徑不正確,蜘蛛會(huì)找不到路,這樣也會(huì)對(duì)蜘蛛爬行造成困難
死鏈過(guò)多
死鏈就是死胡同,走入死胡同沒(méi)有出路了,只能打道回府,次數(shù)多了,讓蜘蛛心灰意冷,路不順暢,下次也不想來(lái)了。
頁(yè)面更新度。
蜘蛛每次都會(huì)把爬行抓取的數(shù)據(jù)存儲(chǔ)起來(lái)。如果第二次爬行發(fā)現(xiàn)頁(yè)面與第一次收錄完全一樣,說(shuō)明頁(yè)面沒(méi)有更新,蜘蛛也就沒(méi)有必要經(jīng)常抓取。如果頁(yè)面內(nèi)容經(jīng)常更新,蜘蛛就會(huì)更加頻繁的訪(fǎng)問(wèn)這種頁(yè)面,頁(yè)面上出現(xiàn)的新鏈接,也自然會(huì)被蜘蛛更快的跟蹤,抓取新頁(yè)面
當(dāng)前標(biāo)題:阻礙蜘蛛爬行抓取的因素?為蜘蛛爬行抓取開(kāi)路
網(wǎng)站路徑:http://chinadenli.net/news32/314282.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站制作、自適應(yīng)網(wǎng)站、用戶(hù)體驗(yàn)、電子商務(wù)、營(yíng)銷(xiāo)型網(wǎng)站建設(shè)、網(wǎng)站建設(shè)
廣告
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀(guān)點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話(huà):028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源:
創(chuàng)新互聯(lián)