網站收錄少是另站長們比較頭疼的事情,雖然不能絕對的說網站收錄高就一定排名就好,但是網站收錄好如果做好關鍵詞排名,對網站有益無害:那么網站收錄少,如何改善呢?近期一直在思考這個問題,下面給大家做了簡單的總結:
兩個因素影響一個網頁是否被收錄
1、是否被爬蟲爬過
2、頁面質量是否過關
任何數據分析由,目標->分析->評估->決策,四個環節組成。
一、目標:查看網站的收錄情況,是否在SEO方面還有提高的空間。從而提高目錄頁面的收錄量;推薦閱讀:影響網站內頁收錄數量的六個因素
二、分析:收錄情況什么算好什么算差,是否用一些數據指標來衡量?網站的收錄情況是不是過于籠統,是不是應該細分下各個頁面的收錄情況?
分析過程:通過影響網頁收錄的兩個因素,我們需要檢查一下,網頁是否被爬蟲爬行過,網頁的質量是不是過關。
1. 關于爬蟲的情況,我們需要分析日志,才能確定。于是我們從日志中拆分一系列數據看看頁面是否真的被爬行過。
2. 由于頁面質量似乎是一個很難衡量的值,于是我們可以用相同模板下的:已被爬行的頁面數量/已被爬行并且被收錄頁面數量;來評估該模板頁面質量對收錄的影響大小。如果被爬的頁面都被收錄了,那至少說明這套頁面的內容搜索引擎還算認可。(實際情況遠比這個復雜,而且收錄后也有可能因為質量問題被刪除,但總比什么參照都沒有要好。)
三、評估:于是我們需要下面一些數據
網站的頁面層級關系:
各個層級頁面帶來的SEO流量
各個層級頁面的收錄情況如何
SEO流量的占比可以從Google Analytics中過濾出來。
頁面數量可以從數據庫獲得,或者通過火車頭or自制小腳本抓取統計。
收錄率可以將獲取的頁面通過工具進行搜索,火車頭也可以。
評估過程:
先看一下爬蟲日志的情況,通過Shell腳本,我們可以分析出。
目錄總計被爬行的次數為13000次左右
不重復的目錄爬行次數為5500次左右
頻道A下的目錄幾乎被100%抓取過至少1次,頻道B的目錄抓取也不錯,有70%被至少抓過一次。
其余頻道下的目錄被抓取的覆蓋率不到30%
不要覺得這個結果很神奇,其實很多網站都會面對這樣的糟糕問題,只要你把數據不斷的細分,細分,再細分,總會觀察出一些端倪的。
關于日志分析,不要迷信任何的日志分析軟件,那都是給懶人用的,自制腳本+Excel才是王道,可以拆分顯示出任何你想要的數據,當然,甚至可以連Excel都不要。
然后,我們統計了一下被抓得頻繁的頻道A和頻道B,目錄頁的收錄率
頻道A和B是很讓人放心的,說明頁面質量沒問題,但是余下的收錄情況就讓人比較擔心了。
四、決策:
通過上面的數據評估,我們已經得到了如下結論。
頁面質量并不是影響收錄的原因。
頻道A,B的抓取量異常的高,通過調查了解,原來是首頁上的目錄頁,顯示的全是頻道A下的目錄頁,首頁又擁有全站高的權重。頻道B擁有比其他頻道強大的外鏈資源,權重也非常高。
除了A, B頻道,其他頻道的抓取情況不容樂觀,抓取入口太少,太深,進而影響了收錄情況。
很明顯,現在頻道A從站內的角度來說太強大了,必須進行一些“劫富濟貧”的運動來降低頻道A的抓取量,轉移到其他頻道中去。同時,需要給爬蟲提供更多的入口抓取頻道頁。
五、執行:
現在問題變得清晰起來,我們開始把工作分成兩部分:1.提供更多的入口 2.將資源平分給各頻道而不是集中在少數幾個頻道上。提供入口工作:
1.把目錄頁的URL制作成sitemap。提交給搜索引擎,并且將其設置為比較高的抓取權重。
2.完善面包屑導航,將面包屑導航劃分得更加細致,以提供更多入口
3.在其他產品中推薦目錄頁
資源平分工作:(一些概念:任意頁面都有可能成為爬蟲入口,百度爬蟲抓取深度有限,頁面相對入口越淺,被抓取的概率越高。)
1.原先首頁指向的都是頻道A的目錄頁+產品頁,將其全部nofollow,確保從首頁進入的爬蟲,全部抓取到頻道頁,通過頻道頁再進入目錄頁(其實這個不算太重要)
2.原先頻道頁指向自身的產品頁,將其全部nofollow(確保從頻道頁入口的爬蟲,大程度的抓取目錄頁)
3.從目錄頁返回到首頁的鏈接,將其全部nofollow。
4.減少一些頁面上無關鏈接。(什么情況下這么做都是非常有效的。)
六、結果
這么做到底有什么效果呢,我們來看看修改后1個月后的數據。
目錄頁的收錄率提高了100%!
產品頁的收錄率也有一定程度的提高,這是歸功于目錄頁對于產品的良好展現。
目錄頁的SEO表現:
SEO流量占比上升了15%
增長10%的到訪關鍵詞數量(新頁面的收錄)
SEO流量增長了50%以上。(包含一些季節因素)