導讀:2SEO優化限制抓取深度會破壞死循環的條件，即使循環發生，也會在有限的次數后停止。評價：寬度優先、深度優先的遍歷策略可以有效地保證爬行過程的緊密性，即在爬行過程（遍歷路徑）網站seo優化診斷工具網站建設公司。

搜索引擎處理大量的網頁。一方面，為了節省帶寬、計算和存儲資源，另一方面，為了滿足用戶的搜索需求，使用有限的資源來捕獲最有價值的網頁，因此搜索引擎在處理大量網頁時會有一定的策略。本文簡要介紹了網絡爬行的主要策略，如廣度優先、深度遍歷策略、非重復爬行策略、大站點優先策略、不完全pagerank策略、OCIP策略、協同爬行策略。

深度優先，深度優先的遍歷策略；廣度優先的原因是重要的網頁往往接近種子網站；萬維網的深度沒有我們預期的那么深，而是出乎意料的深（中國萬維網只有17個直徑和長度，即在任意兩個網頁之間可以訪問17次）；多履帶協同抓取深度優先的不利結營銷型網站建設果：容易使履帶陷入死區，不應重復抓取；不個業網站建設公司應抓住機會；

解決上述兩個缺點的方法是深度優先抓取和非重復抓取策略；防止履帶從無限期地以寬度優先抓取，必須在一定的深度抓取。達到此深度即萬維網的直徑和長度后，限制程度并停止抓取。當爬行停止在最大深度時，那些太深而沒有爬行的頁面總是期望從其他種子站點更經濟地到達。

限制抓取深度會破壞死循環的條件，即使循環發生，也會在有限的次數后停止。評價：寬度優先、深度優先的遍歷策略可以有效地保證爬行過程的緊密性，即在爬行過程（遍歷路徑）中，總是對同一域名下的網頁進行爬行，而對其他域名下的網頁則很少。

無重復抓取策略保證了一個變化不大的網頁只能被抓取一次，防止重復抓取占用大量的CPU和帶寬資源，從而集中有限的資源區域來抓取更重要、更高質量的網頁。Larser網站優先通常是大型網站的高質量內容，網頁質量一般較高。從網站的角度衡量網頁的重要性有一定的依據。對于要爬網的URL隊列中的頁面，下載優先級由等待下載的頁面數決定。

下載頁面（不完整Internet頁面的子集）的部分pagerank策略（部分pagerank）與待爬行的URL隊列中的URL一起形成一組頁面，并在集合中計算pagerank；經過計算，待爬行的URL隊列中的頁面根據pagerank得分由高到低排序，形成一個SE。那是履帶式拼接。應依次向下爬行的URL列表。由于pagerank是一種全局算法，即當所有的頁面都被下載時，計算結果是可靠的，但是爬行器在爬行過程中只能接觸到部分頁面，所以爬行時不能進行可靠的pagerank計算，所以稱為不完全pagerank策略。

關鍵詞標簽: 蜘蛛 搜索 廣度