Spider對網(wǎng)站抓取數量突增往往給站點(diǎn)帶來(lái)很大煩惱，紛紛找平臺想要BaiduspiderIP白名單，但實(shí)際上BaiduSpiderIP會(huì )隨時(shí)變化，所以并不敢公布出來(lái)，擔心站長(cháng)設置不及時(shí)影響抓取效果。百度是怎么計算分配抓取頻次數量的呢？站點(diǎn)抓取頻次數量暴增的原因有哪些呢？

總體來(lái)說(shuō)，Baiduspider會(huì )根據站點(diǎn)規模、歷史上網(wǎng)站每天新產(chǎn)出的鏈接數量、已抓取網(wǎng)頁(yè)的綜合質(zhì)量打分等等，來(lái)綜合計算抓取頻次數量，同時(shí)兼顧站長(cháng)在抓取頻次工具里設置的、網(wǎng)站可承受的最大抓取值。

從目前追查過(guò)的抓取頻次數量突增的case中，原因可以分為以下幾種：

1、Baiduspider發(fā)現站內JS代碼較多，調用大量資源針對JS代碼進(jìn)行解析抓取

2、百度其他部門(mén)（如商業(yè)、圖片等）的spider在抓取，但頻次數量沒(méi)有控制好，sorry

3、已抓取的鏈接，打分不夠好，垃圾過(guò)多，導致spider重新抓取

4、站點(diǎn)被攻擊，有人仿冒百度爬蟲(chóng)（推薦閱讀：《如何正確識別BaiduSpider》）

如果站長(cháng)排除了自身問(wèn)題、仿冒問(wèn)題，確認BaiduSpider抓取頻次數量過(guò)大的話(huà)，可以通過(guò)反饋中心來(lái)反饋，切記一定要提供詳細的抓取日志截圖。

百度蜘蛛抓取頻次,網(wǎng)頁(yè)不收錄

百度不收錄頁(yè)面的原因分析：

目前百度spider抓取新鏈接的途徑有兩個(gè)，一是主動(dòng)出擊發(fā)現抓取，二就是從百度站長(cháng)平臺的鏈接提交工具中獲取數據，其中通過(guò)主動(dòng)推送功能“收”上來(lái)的數據最受百度spider的歡迎。對于站長(cháng)來(lái)說(shuō)，如果鏈接很長(cháng)時(shí)間不被收錄，建議嘗試使用主動(dòng)推送功能，尤其是新網(wǎng)站，主動(dòng)推送首頁(yè)數據，有利于內頁(yè)數據的抓取。

那么同學(xué)們要問(wèn)了，為什么我提交了數據還是遲遲在線(xiàn)上看不到展現呢？那涉及的因素可就多了，在spider抓取這個(gè)環(huán)節，影響線(xiàn)上展現的因素有：

1、網(wǎng)站封禁：你別笑，真的有同學(xué)一邊封禁著(zhù)百度蜘蛛，一邊向百度狂交數據，結果當然是無(wú)法收錄。

2、質(zhì)量篩選：百度蜘蛛spider3.0對低質(zhì)內容的識別上了一個(gè)新臺階，尤其是時(shí)效性?xún)热?，從抓取這個(gè)環(huán)節就開(kāi)始進(jìn)行質(zhì)量評估篩選，過(guò)濾掉大量過(guò)度優(yōu)化等頁(yè)面，從內部定期數據評估看，低質(zhì)網(wǎng)頁(yè)比之前下降62%。

3、抓取失?。鹤ト∈〉脑蚝芏?，有時(shí)你在辦公室訪(fǎng)問(wèn)完全沒(méi)有問(wèn)題，百度spider卻遇到麻煩，站點(diǎn)要隨時(shí)注意在不同時(shí)間地點(diǎn)保證網(wǎng)站的穩定性。

4、配額限制：雖然我們正在逐步放開(kāi)主動(dòng)推送的抓取配額，但如果站點(diǎn)頁(yè)面數量突然爆發(fā)式增長(cháng)，還是會(huì )影響到優(yōu)質(zhì)鏈接的抓取收錄，所以站點(diǎn)在保證訪(fǎng)問(wèn)穩定外，也要關(guān)注網(wǎng)站安全，防止被黑注入。