我們做優化的目的就是讓網站更吸引蜘蛛的到來，蜘蛛來的越頻繁說明你的網站做的越好，而爬行就是蜘蛛到網站的途徑方式，爬行是指蜘蛛在頁面上沿著鏈接發現新頁面，然后“爬”過去抓取新頁面。抓取是指蜘蛛發現新頁面后，像瀏覽器一樣打開頁面，把頁面HTML代碼存入數據庫。兩個概念在英文中通常都是用crawl或spider(這里是動詞)表示，視上下文才能分出是指哪個。那么蜘蛛的爬行又是怎樣規則呢？
　　顯然，爬行和抓取是相互交織的。抓取是實際發生的我們能夠觀察到的過程，在原始日志中，蜘蛛的抓取是有完整記錄的，比如：抓取確切時間、狀態碼、抓取的文件是哪個、抓取了多大文件等等。蜘蛛對頁面的抓取就和瀏覽器讀取文件是完全一樣的。
　　而爬行只是一個形象的比喻，實際上并不存在蜘蛛抓取文件時發現鏈接然后立即跟蹤過去這樣一個過程。蜘蛛抓取文件后存入數據庫，程序解析出文件中的鏈接后將URL存入頁面地址庫，然后蜘蛛從地址庫中按一定規則選取URL進行抓取。蜘蛛不是真的訪問頁面時看到一個URL就爬過去。
　　索引指的是將一個URL的信息進行各種整理，如去重、分詞等等，然后將關于這個URL的信息存入數據庫，被稱為索引庫。真正用于搜索的是倒排索引，以后有機會再細說。要注意的是，索引庫中關于URL的信息不僅是組成頁面內容的關鍵詞及其特征(位置、格式等)，還有鏈接、更新情況等信息。英文索引這個詞是index。
　　收錄是SEO們最關心也最常用的詞，其實也是4個概念中最不明確的。被收錄指的是我們能查到頁面被搜索引擎存入了索引庫。但后面我們會看到，進入索引庫的URL并不一定被抓取過，這和SEO們的直覺可能是不一樣的。
　　當然，精準掌握概念不是為了咬文嚼字，而是對很多SEO問題的理解和處理有影響。下面舉幾個例子。
　　收錄不全是什么原因?
　　頁面不收錄是SEO們最頭疼的問題之一，不收錄就談不上排名、流量了。太多人在博客、論壇里問頁面不被收錄是什么原因，也給出了域名，但這種問題是沒法回答的，即使愿意花時間去診斷也不能回答(除非列出所有可能的原因，等于沒回答)，因為缺了一個關鍵信息：頁面被抓取了沒有?這只有查原始日志才能知道，看網站是看不出來的，查流量也是查不出來的。了解前面的概念就知道，被抓取不一定被收錄，沒被收錄也不一定意味著沒被抓取。
　　如果頁面被抓取過卻沒被索引和收錄，應該往內容是否有問題(原創?采集?所謂偽原創?敏感內容或產品?復制內容?)方向去找原因。網站結構應該沒有大問題，搜索引擎是看了內容之后覺得不適合收錄的。如果頁面壓根就沒被抓取過，則應該往網站和鏈接結構、搜索引擎不友好的技術障礙、域名權重等方面去找。蜘蛛的爬行和抓取我們很難來把握，但是我們會有意識的去討好蜘蛛，從而吸引蜘蛛，所以大家在做優化的時候還是需要仔細留意。