站點抓取異常存在的幾種情況
分享
評論
贊0
1、典型的抓取異常情況
情況一：404頁面
協議死鏈，用戶已無法訪問該頁面內容，建議通過百度站長平臺--死鏈工具提交死鏈的方式進行處理，以便搜索引擎更快地發現死鏈，減少死鏈對用戶以及搜索引擎造成的負面影響。
情況二：IP禁封
限制網絡出口IP地址，禁止該IP段的使用者進行內容訪問，即為IP禁封。請檢查系統服務器是否設置了針對百度spider的IP禁封規則。
情況三：UA禁封
UA即為用戶代理（User-Agent），服務器通過UA識別訪問者的身份，當網站針對指定UA的訪問返回異常頁面（如403，500）或跳轉到其他頁面的情況，即為UA禁封。請檢查系統服務器是否設置了針對百度spider的UA禁封規則。
情況四：異常重定向
將網絡請求重新指向其他位置即為重定向。異常重定向指的是以下幾種情況：
1）當前該頁面為無效頁面（內容已刪除、死鏈等），直接跳轉到前一目錄或者首頁，百度建議站長將該無效頁面的入口超鏈接刪除掉
2）重定向到出錯或者無效頁面
3）重定向的跳轉超過3次，也為異常
注意：對于長時間跳轉到其他域名的情況，如網站更換域名，百度建議使用301跳轉協議進行設置。
情況五：其他
JS跳轉異常：網頁加載了百度無法識別的JS跳轉代碼，使得用戶通過搜索結果進入頁面后發生了跳轉的情況。
針對百度ua的異常：網頁對百度UA返回不同于頁面原內容的行為。
針對百度refer的異常：網頁針對來自百度的refer返回不同于正常內容的行為。
壓力過大引起的偶然禁封：百度會根據站點的規模，訪問量等信息，自動設定一個合理的抓取壓力。但是在異常情況下，如壓力控制失常時，服務器會根據自身負荷進行保護性的偶然封禁。這種情況下，請在返回碼中返回503(其含義是“Service Unavailable”)，這樣百度spider會過段時間再來嘗試抓取這個鏈接，如果網站已空閑，則會被成功抓取
猜你喜歡
評論(0人參與，0條評論)
發布評論
最新評論