Html狀態(tài)碼也是網站與spider進行交流的渠道之一,會告訴spider網頁目前的狀態(tài),spider再來決定下一步該怎么做——抓or不抓or下次再來看看。對于200狀態(tài)碼大家已經很熟了,那么我們來介紹幾種常見的失效網頁使用的狀態(tài)碼:
【404】404返回碼的含義是“NOT FOUND”,百度會認為網頁已經失效,那么通常會從搜索結果中刪除,并且短期內spider再次發(fā)現(xiàn)這條url也不會抓取。
【503】503返回碼的含義是“Service Unavailable”,百度會認為該網頁臨時不可訪問,通常網站臨時關閉,帶寬有限等會產生這種情況。對于網頁返回503,百度spider不會把這條url直接刪除,短期內會再訪問。屆時如果網頁已恢復,則正常抓?。蝗绻^續(xù)返回503,短期內還會反復訪問幾次。但是如果網頁長期返回503,那么這個url仍會被百度認為是失效鏈接,從搜索結果中刪除。
【301】301返回碼的含義是“Moved Permanently”,百度會認為網頁當前跳轉至新url。當遇到站點遷移,域名更換、站點改版的情況時,推薦使用301返回碼,盡量減少改版帶來的流量損失。雖然百度spider現(xiàn)在對301跳轉的響應周期較長,但我們還是推薦大家這么做。
一些網站把未建好的頁面上線,并且這些頁面在被百度抓取的時候返回碼是404,于是頁面被百度抓取后會被當成死鏈直接刪除。但是這個頁面在第二天或者過幾天就會建好,并上線到網站內展現(xiàn)出來,但是由于之前已經被百度當做死鏈刪除,所以需要再次等這些鏈接被發(fā)現(xiàn)然后抓取才能展現(xiàn),這樣的操作最終會導致一些頁面在一段時間內不會在百度出現(xiàn)。比如某個大型門戶網站爆出大量新聞時效性很強的專題未被百度及時收錄的問題,經檢查驗證后發(fā)現(xiàn)就是因為頁面未建成就放置在線上,并返回404狀態(tài)碼,被百度當成死鏈刪除,造成收錄和流量損失。
對于這樣的問題,建議網站使用503返回碼,這樣百度的抓取器接到503返回碼后,會在隔一段時間再去訪問這個地址,在您的頁面建好上線后,就又能被重新抓取,保證頁面及時被抓取和索引,避免未建好的內容設為404后帶來不必要的收錄和流量損失。
其它建議和總結:
1、如果百度spider對您的站點抓取壓力過大,請盡量不要使用404,同樣建議返回503。這樣百度spider會過段時間再來嘗試抓取這個鏈接,如果那個時間站點空閑,那它就會被成功抓取了
2、如果站點臨時關閉或者頁面暫未建好上線,當網頁不能打開時以及沒有建好時,不要立即返回404,建議使用503狀態(tài)。503可以告知百度spider該頁面臨時不可訪問,請過段時間再重試。