搜索引擎工作過程非常復雜，接下來成都網站建設--創(chuàng)新互聯(lián)小編要簡單介紹搜索引擎是怎么樣實現(xiàn)網頁排名的。這里介紹的內容相對于真正的搜索引擎技術來說知識皮毛，不過對大部分seo工作人員來說已經夠用了。

搜索引擎的工作過程大體上可以分成三個階段。

1）：爬行和抓?。核阉饕嬷┲胪ㄟ^跟蹤鏈接發(fā)現(xiàn)和訪問頁面，讀取頁面HTML代碼，存入數(shù)據(jù)庫。

2）：預處理：索引程序對抓取來的頁面數(shù)據(jù)進行文字提取.中文分詞.索引.倒排索引等處理，以備排名程序調用。

3）：用戶輸入查詢詞后，排名程序調用索引庫數(shù)庫，計算相關性，然后按一定格式生成搜索結果頁面。

              

爬行和抓取是搜索引擎的第一步，完成數(shù)據(jù)收集的任務。

下面成都網站設計--創(chuàng)新互聯(lián)小編就來和大家說說“蜘蛛”：搜索引擎用來爬行和訪問頁面的程序被稱為蜘蛛或機器人。搜索引擎蜘蛛訪問網站頁面時類似于普通用戶使用的瀏覽器。蜘蛛程序發(fā)出頁面訪問請求后，服務器返回HTML代碼，都使用多個蜘蛛并發(fā)布爬行。蜘蛛訪問任何一個網站時，都會先訪問網站跟目錄下的robots.txt文件。如果robots.txt文件禁止搜索引擎抓取某些文件或目錄，蜘蛛將遵守協(xié)議，不抓取被禁止的網址。

和瀏覽器一樣，搜索引擎蜘蛛也有標明自己身份的用戶代理名稱，站長可以在日志文件中看到搜索引擎的特定用戶代理，從而辨識搜索引擎蜘蛛。成都網站建設--創(chuàng)新互聯(lián)小編下面列出常見的搜索引擎蜘蛛名稱：

. Baiduspider+(+http://www.baidu.com/search/spider.htm)百度蜘蛛。

.Mozilla/5.0(Windows;U;Windows NT 5.1;zh-CN;)Firefox/1.5.0.11;360Spider(369蜘蛛）。

.Mozilla/5.0(compatible;Yahoo!Slurp/3.0;http://help.yahoo.com/help/us/ysearch/slurp)英文雅虎蜘蛛（雅虎已經放棄自己的搜索技術，列在這里權當歷史紀念吧）。

.MOZILL/5.0(compatible;Googlebot/2.1;+http://www.google.com/bot.html)Goole蜘蛛。

.MOZILL/5.0(iphone;CPU iphone OS 6_0 like Mac OS X)AppleWebKit/536.26(KHTML,like Gecko)Version/6.0 Mobile/10A5376e Safari/8536.25(compatible;Googlebot/2.1;+http://www.google.com/bot.html)(GOOGLR移動蜘蛛）。

.MOZILLA/5.0(compatibe;bingbot/2.0;+http://www.bing.com/bingbot.htm)微軟Bing蜘蛛。

.Sogou+web+robot+(+http://www.spgou.com/docs/help/webmasters.htm307)搜狗蜘蛛。

.Sosospider+(+http://help.soso.com/webspider.htm)搜搜蜘蛛。

.Mozilla/5.0(compatible;YodaBot/1.0;http://www.yodao.com/help/webmaster/spider/;)有道蜘蛛。

分享名稱：搜索引擎的工作原理簡介
本文URL：http://chinadenli.net/news/181341.html

成都網站建設公司_創(chuàng)新互聯(lián)，為您提供微信公眾號、動態(tài)網站、網站維護、品牌網站設計、搜索引擎優(yōu)化、全網營銷推廣

廣告

聲明：本網站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)