因?yàn)榛ヂ?lián)網(wǎng)上有大約22%的內(nèi)容是相同的，一旦你的文章發(fā)表在網(wǎng)上，就有可能會被轉(zhuǎn)載，而一般判斷幫你的網(wǎng)頁為轉(zhuǎn)載，那么搜索引擎一般會從三個時間段來刪除你的網(wǎng)頁：

　　(1)抓取頁面的時候刪除，這樣可以減少搜索引擎帶寬以及減少存儲數(shù)量;

　　(2)收錄之后刪除重復(fù)網(wǎng)頁;

　　(3)用戶檢索時候進(jìn)行再次刪除;增加準(zhǔn)確性，耗費(fèi)時間;

　　內(nèi)容重復(fù)的4種類型：

　　1.如果2篇文章內(nèi)容和格式上毫無差別，則這種重復(fù)叫做“完全重復(fù)頁面”

　　2.如果2篇文章內(nèi)容相同，但是格式不同，則叫做“內(nèi)容重復(fù)頁面”

　　3.如果2篇文章有部分重要的內(nèi)容相同，并且格式相同，則稱為“布局重復(fù)頁面”

　　4.如果2篇文章有部分重要的內(nèi)容相同，但是格式不同，則稱為“部分重復(fù)頁面”

　　刪除重復(fù)網(wǎng)頁對于搜索引擎有很多好處:

　　1.如果這些重復(fù)網(wǎng)頁并從搜索引擎數(shù)據(jù)庫中去掉，就能節(jié)省一部分存儲空間，提高檢索的質(zhì)量。

　　2.為了提高網(wǎng)頁的搜集速度，搜索引擎會對以往搜集信息的分析，預(yù)先發(fā)現(xiàn)重復(fù)網(wǎng)頁，在今后的網(wǎng)頁搜集過程中就可以避開這些網(wǎng)頁，這就是為什么總轉(zhuǎn)載的網(wǎng)站排名不高的原因了。

　　3.對某個鏡像度較高的網(wǎng)頁，搜索引擎會賦予它較高的優(yōu)先級，當(dāng)用戶搜索時就會賦予它較高的權(quán)重。

　　4. 近似鏡像網(wǎng)頁的及時發(fā)現(xiàn)有利于改善搜索引擎系統(tǒng)的服務(wù)質(zhì)量，也就是說如果用戶點(diǎn)擊了一個死鏈接,那么可以將用戶引導(dǎo)到一個相同頁面,這樣可以有效的增加用戶的檢索體驗(yàn)。

　　通用去重算法框架

　　對于網(wǎng)頁去重任務(wù)，具體可以采取的技術(shù)手段五花八門，各有創(chuàng)新和特色，但是如果仔細(xì)研究，其實(shí)大致都差不多。

　　上圖給出了通用算法框架的流程圖，對于給定的文檔，首先要通過一定特抽取手段，從文檔中抽取出一系列能夠表征文檔主題內(nèi)容的特征集合。這一步驟往往有其內(nèi)在要求，即盡可能保留文檔重要信息，刪除無關(guān)信息。之所以要刪除部分信息，主要是從計(jì)算速度的角度考慮，一般來說，刪除的信息越多，計(jì)算速度會越快。

　　這就是為什么你想做的關(guān)鍵字總沒有排名，反而不想做的關(guān)鍵詞卻能排名靠前的原因之一，搜索引擎把它認(rèn)為不重要的詞語刪除了。