歡迎來到合肥浪訊網絡科技有限公司官網
咨詢服務熱線：400-099-8848
咨詢服務熱線：400-099-8848
網站優(yōu)化和搜索引擎優(yōu)化的區(qū)別 |
| 發(fā)布時間：2015-05-06 文章來源： 瀏覽次數：4572 |
| 一、什么是搜索引擎爬蟲程序 網絡爬蟲(又被稱為網頁蜘蛛，網絡機器人，更常常的稱為網頁追逐者)，是一種按照一定的規(guī)則，自動的抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻，自動索引，模擬程序或者蠕蟲。 這些處理被稱為網絡抓取或者蜘蛛爬行。良多站點，尤其是搜索引擎，都使用爬蟲提供最新的數據，它主要用于提供它訪問過頁面的一個副本，然后，搜索引擎就可以對得到的頁面進行索引，以提供快速的訪問。蜘蛛也可以在web上用來自動執(zhí)行一些任務，例如檢查鏈接，確認html代碼;也可以用來抓取網頁上某種特定類型信息，例如抓取電子郵件地址(通常用于垃圾郵件)。 一個網絡蜘蛛就是一種機器人，或者軟件代辦代理。大體上，它從一組要訪問的URL鏈接開始，可以稱這些URL為種子。爬蟲訪問這些鏈接，它辨認出這些頁面的所有超鏈接，然后添加到這個URL列表，可以稱作檢索前沿。這些URL按照一定的策略反復訪問。 二、爬蟲程序的種類以及分辨 搜索引擎派出他們的爬蟲程序去訪問、索引網站內容，但是因為搜索引擎派爬蟲程序來訪會在一定程度上影響網站機能。在你的服務器日志文件中，可見每次訪問的路徑和相應的 IP 地址，假如是爬蟲程序來訪， 則user-agent 會顯示 Googlebot 或MSNBot 等搜索引擎爬蟲程序名稱，每個搜索引擎都有自己的user-agent。 三、海內主要的爬蟲程序 百度 baidu.com—-Baiduspider http://www.baidu.com/search/spider.htm 谷歌 google.com—-Googlebot http://www.google.com/bot.html 雅虎 yahoo.com—-Yahoo http://misc.yahoo.com.cn/help.html 有道 yodao.com—-YodaoBot http://www.yodao.com/help/webmaster/spider/ 搜搜 soso.com—-Sosospider/Sosoimagespider http://help.soso.com/webspider.htm http://help.soso.com/soso-image-spider.htm 搜狗 sogou.com—-sogou http://www.sogou.com/docs/help/webmasters.htm 微軟 msn.com—-msnbot http://search.msn.com/msnbot.htm |
