Html狀態(tài)碼也是網(wǎng)站與spider進行交流的渠道之一，會告訴spider網(wǎng)頁目前的狀態(tài)，spider再來決定下一步該怎么做——抓or不抓or下次再來看看。對于200狀態(tài)碼大家已經(jīng)很熟了，那么我們來介紹幾種常見的失效網(wǎng)頁使用的狀態(tài)碼：

　　【404】404返回碼的含義是“NOT FOUND”，百度會認為網(wǎng)頁已經(jīng)失效，那么通常會從搜索結(jié)果中刪除，并且短期內(nèi)spider再次發(fā)現(xiàn)這條url也不會抓取。

　　【503】503返回碼的含義是“Service Unavailable”，百度會認為該網(wǎng)頁臨時不可訪問，通常網(wǎng)站臨時關(guān)閉，帶寬有限等會產(chǎn)生這種情況。對于網(wǎng)頁返回503，百度spider不會把這條url直接刪除，短期內(nèi)會再訪問。屆時如果網(wǎng)頁已恢復，則正常抓取；如果繼續(xù)返回503，短期內(nèi)還會反復訪問幾次。但是如果網(wǎng)頁長期返回503，那么這個url仍會被百度認為是失效鏈接，從搜索結(jié)果中刪除。

　　【301】301返回碼的含義是“Moved Permanently”，百度會認為網(wǎng)頁當前跳轉(zhuǎn)至新url。當遇到站點遷移，域名更換、站點改版的情況時，推薦使用301返回碼，盡量減少改版帶來的流量損失。雖然百度spider現(xiàn)在對301跳轉(zhuǎn)的響應(yīng)周期較長，但我們還是推薦大家這么做。

　　一些網(wǎng)站把未建好的頁面放到線上，并且這些頁面在被百度抓取的時候返回碼是404，于是頁面被百度抓取后會被當成死鏈直接刪除。但是這個頁面在第二天或者過幾天就會建好，并上線到網(wǎng)站內(nèi)展現(xiàn)出來，但是由于之前已經(jīng)被百度當做死鏈刪除，所以要再次等這些鏈接被發(fā)現(xiàn)，然后抓取才能展現(xiàn)，這樣的操作最終會導致一些頁面在一段時間內(nèi)不會在百度出現(xiàn)。比如某個大型門戶網(wǎng)站爆出大量新聞時效性很強的專題未被百度及時收錄的問題，經(jīng)檢查驗證后發(fā)現(xiàn)就是因為頁面未建成就放置在線上，并返回404狀態(tài)碼，被百度當成死鏈刪除，造成收錄和流量損失。

　　對于這樣的問題，建議網(wǎng)站使用503返回碼，這樣百度的抓取器接到503返回碼后，會在隔一段時間再去訪問這個地址，在您的頁面建好上線后，就又能被重新抓取，保證頁面及時被抓取和索引，避免未建好的內(nèi)容設(shè)為404后帶來不必要的收錄和流量損失。

　　其它建議和總結(jié)：

　　1、如果百度spider對您的站點抓取壓力過大，請盡量不要使用404，同樣建議返回503。這樣百度spider會過段時間再來嘗試抓取這個鏈接，如果那個時間站點空閑，那它就會被成功抓取了

　　2、如果站點臨時關(guān)閉或者頁面暫未建好上線，當網(wǎng)頁不能打開時以及沒有建好時，不要立即返回404，建議使用503狀態(tài)。503可以告知百度spider該頁面臨時不可訪問，請過段時間再重試。