網站改版后如何解決404頁面抓取錯誤的問題
編輯
分享
評論
贊0
網站改版都是希望網站可以很好的進行優化，但是對于網站改版的不同階段，搜索引擎會對網站進行不同的要求。一般網站改版后，對網站的優化都會造成一些影響，這個時候，就進行有效地控制，減少改版造成的404頁面過多情況。如果搜索引擎對網站的404錯誤頁面抓取過多，就會導致網站有可能被降權，這對以后網站權重的恢復也會造成很大的影響。下面具體的跟大家分析下404頁面的解決情況。
1、利用日志分析工具找到404錯誤抓取頁面
想要知道搜索引擎有沒有到網站抓取，到網站抓取多少頁面，抓取了哪些頁面。這時就需要對網站的日志進行分析。對于網站日志的看法比較困難，就可以使用光年日志進行轉化。首先利用FTP下載好最近幾天的網站LOG日志，當然，想更多的分析，那么多下載一段時間的LOG日志也可以，利用日志分析工具新建任務分析各個階段的百度蜘蛛抓取情況。
2、利用百度站長死鏈提交工具進行死鏈提交
對于404頁面同，百度搜索引擎是如何進行理解的呢?事實上，對于404頁面。百度搜索引擎認為404狀態碼代表‘Not Found'，spider更新時會認為該頁面已失效，此時呢將在索引庫中刪除，短期內spider再次發現該url不再會抓取。但是如果通過網站日志就可以發現，對于404頁面，百度蜘蛛還是會進行抓取的，這也是為什么網站改版以后，百度蜘蛛還是會對404錯誤頁面進行一些抓取。
3、利用robots.txt和nofollow標簽引導蜘蛛抓取
網站存在錯誤頁面時，百度蜘蛛就會抓取 到一部分的錯誤頁面。浪費了蜘蛛抓取資源，而對于網站的正確頁面抓取就會減少一部份。這就造成頁面的資源丟失。這時站長就需要對百度蜘蛛進行一些引導，讓蜘蛛抓取想讓他抓的一些頁面，對于一些404頁面進行robots限制抓取，對于網站中一些不參與排名的鏈接實行nofollow，引導蜘蛛抓取重要頁面。
猜你喜歡