站點(diǎn)流量異常追查文檔

　　百度站長(zhǎng)平臺(tái)幾乎每天都會(huì)接到站長(zhǎng)關(guān)于流量的詢問(wèn)，很多站長(zhǎng)發(fā)現(xiàn)站點(diǎn)流量發(fā)生很大變化后，第一反應(yīng)就是認(rèn)為自己被誤判降權(quán)了，情緒激動(dòng)者不經(jīng)審核立即開(kāi)始在公開(kāi)媒體聲討百度為自己造勢(shì)。但經(jīng)過(guò)百度站長(zhǎng)平臺(tái)追查，大部分站點(diǎn)都不是真的被懲罰了，或者說(shuō)并不是因?yàn)檎军c(diǎn)主觀原因被懲罰。所以，為了解開(kāi)站長(zhǎng)關(guān)于站點(diǎn)流量大幅下滑的謎團(tuán)，更好地幫助站長(zhǎng)查找原因，我們推出了《站點(diǎn)流量異常追查文檔》，希望能給站長(zhǎng)一些啟示。

　　目錄：

　　先普及一個(gè)概念：什么是流量異常

　　一，運(yùn)維篇

　　1、CDN

　　2、robots

　　3、UA/IP

　　4、安全問(wèn)題/管理不善

　　A、域名泛解析

　　B、網(wǎng)站被黑

　　C、網(wǎng)頁(yè)被掛馬

　　D、UGC站點(diǎn)被SPAMMER群發(fā)

　　二，特征頁(yè)分析

　　1、分析流程圖

　　2、查找特征頁(yè)面

　　3、分析異常特征

　　A、排名無(wú)，流量無(wú)

　　B、部分排名無(wú)，流量損失較大

　　三，相關(guān)因素——外鏈爆增

　　1、首頁(yè)、頻道頁(yè)、重要頁(yè)面被惡意投票

　　2、用戶創(chuàng)建頁(yè)面、垃圾個(gè)人頁(yè)、內(nèi)容頁(yè)被惡意投票

　　3、拼接搜索結(jié)果頁(yè)漏洞

　　4、如何預(yù)防產(chǎn)生拼接搜索結(jié)果頁(yè)

　　什么是流量異常

　　來(lái)自百度搜索的流量突然間降了50%以上，且是持續(xù)性的，即已經(jīng)連續(xù)四至五天流量沒(méi)有明顯漲幅變化。如下圖所示：

　　如果出現(xiàn)上述現(xiàn)象，建議大家從運(yùn)維角度、頁(yè)面特征，以及相關(guān)因素來(lái)判斷原因。

　　一、站點(diǎn)流量異常原因之運(yùn)維篇

　　1、CDN

　　一些網(wǎng)站會(huì)使用CDN加速服務(wù)，最近每周站長(zhǎng)平臺(tái)都會(huì)接到一兩個(gè)跟CDN加速問(wèn)題有關(guān)的案例。CDN這里存在一個(gè)問(wèn)題：不同的CDN服務(wù)商在全國(guó)分布的節(jié)點(diǎn)數(shù)不同，站點(diǎn)在使用CDN服務(wù)時(shí)，同一地區(qū)CDN給蜘蛛返回的IP地址要和給用戶的一致。那么現(xiàn)實(shí)情況是，部分CDN服務(wù)商出于成本考慮與資源使用率的問(wèn)題，會(huì)在不告知用戶的情況下變更IP地址以節(jié)約成本，這樣就導(dǎo)致蜘蛛在去抓的時(shí)候，會(huì)遇到新IP和老IP的問(wèn)題，在站點(diǎn)沒(méi)有告知更換IP的情況下，蜘蛛會(huì)認(rèn)為站點(diǎn)目前存在問(wèn)題，首先是減少抓取量，其次會(huì)判斷是否把不可訪問(wèn)的頁(yè)面下掉，這時(shí)候就出現(xiàn)了用戶訪問(wèn)IP與蜘蛛抓取IP不一致的情況。所以建議站點(diǎn)在選擇CDN服務(wù)時(shí)要選擇穩(wěn)定的CDN服務(wù)商，其次如果IP更換最好通過(guò)站長(zhǎng)平臺(tái)抓取診斷工具抓取測(cè)試，如果IP不正確可以點(diǎn)擊下圖紅框“報(bào)錯(cuò)”提示給站長(zhǎng)平臺(tái)

　　2、Robots

　　站長(zhǎng)應(yīng)該對(duì)robots都不陌生，但為什么還要提呢？有這樣一種情況：站點(diǎn)需要更新robots文件，對(duì)站內(nèi)部分內(nèi)容禁止或放開(kāi)抓取。但由于操作后沒(méi)有檢查是否生效，站長(zhǎng)會(huì)默認(rèn)為已經(jīng)生效。同時(shí)還有一個(gè)生效周期的問(wèn)題，那么站點(diǎn)需要在百度站長(zhǎng)平臺(tái)提供的robots檢測(cè)工具中做一個(gè)抓取測(cè)試來(lái)驗(yàn)證是否生效。

　　如果看到robots內(nèi)容和你更改后的內(nèi)容不一致，有幾種可能：第一種可能是網(wǎng)站沒(méi)有全面布局，因?yàn)橛械恼军c(diǎn)服務(wù)器可能在很多地方，你需要確認(rèn)robots是否已全部推送；第二種可能是百度沒(méi)有及時(shí)做更新，可以通過(guò)robots檢測(cè)工具下方的更新按鈕來(lái)告訴百度Robots有變化。

　　3、UA/IP

　　UA封禁一般不會(huì)是站點(diǎn)主觀錯(cuò)誤操作，往往是意外情況，站點(diǎn)在程序中過(guò)濾誤操作UA封禁，而通常卻不知道自己封禁了蜘蛛。只有在逐步的排查才會(huì)發(fā)現(xiàn)這種概率很小的問(wèn)題。所以在流量異常中我們?cè)谶\(yùn)維篇中把這項(xiàng)列進(jìn)去，讓站點(diǎn)注意這些個(gè)細(xì)節(jié)。

　　那么當(dāng)您的網(wǎng)站不希望Baiduspider訪問(wèn)時(shí)，才需要該設(shè)置，如果您希望Baiduspider訪問(wèn)您的網(wǎng)站，useragent相關(guān)的設(shè)置中是否有Baiduspider UA，并及時(shí)修改。禁止所有來(lái)自百度的抓?。?User-agent: Baiduspider Disallow: /

　　IP封禁往往是遇到CC攻擊的時(shí)候不知道哪些是真百度蜘蛛和仿冒百度蜘蛛而封禁了蜘蛛IP，這里我們建議通過(guò)DNS反查方式讓站點(diǎn)了解哪些是真實(shí)蜘蛛，根據(jù)平臺(tái)不同驗(yàn)證方法不同，如linux/windows/os三種平臺(tái)下的驗(yàn)證方法分別如下：

　　A、在linux平臺(tái)下，您可以使用host ip命令反解ip來(lái)判斷是否來(lái)自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即為冒充。

　　B、在windows平臺(tái)或者IBM OS/2平臺(tái)下，您可以使用nslookup ip命令反解ip來(lái) 判斷是否來(lái)自Baiduspider的抓取。打開(kāi)命令處理器 輸入nslookup xxx.xxx.xxx.xxx（IP地 址）就能解析ip， 來(lái)判斷是否來(lái)自Baiduspider的抓取，Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即為冒充。

　　C、在mac os平臺(tái)下，您可以使用dig 命令反解ip來(lái) 判斷是否來(lái)自Baiduspider的抓取。打開(kāi)命令處理器 輸入dig xxx.xxx.xxx.xxx（IP地 址）就能解析ip， 來(lái)判斷是否來(lái)自Baiduspider的抓取，Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名，非 *.baidu.com 或 *.baidu.jp 即為冒充。

　　更多內(nèi)容請(qǐng)?jiān)L問(wèn)：http://zhanzhang.baidu.com/college/articleinfo?id=34

　　4、安全/管理不善

　　安全問(wèn)題在站長(zhǎng)平臺(tái)能觀察到的絕大多數(shù)屬于管理問(wèn)題，站點(diǎn)被黑客鉆了漏洞而受到了懲罰等，且懲罰力度與站點(diǎn)漏洞的存在時(shí)間成正比。

　　A、域名泛解析

　　近幾個(gè)月域名泛解析是一個(gè)非常經(jīng)典的案例，很多網(wǎng)站由于安全意識(shí)薄弱、密碼簡(jiǎn)單被黑客鉆了空子，解析出了大量非本站內(nèi)容的低質(zhì)頁(yè)面，導(dǎo)致百度搜索引擎對(duì)整站采取了臨時(shí)措施，使得站點(diǎn)流量掉了很多甚至清零。

　　B、網(wǎng)站被黑

　　網(wǎng)站被黑跟泛解析也有相似之處，網(wǎng)站內(nèi)有大量的垃圾頁(yè)面都是黑客創(chuàng)造出來(lái)的，導(dǎo)致受到懲罰，給站點(diǎn)帶來(lái)致命的打擊。

　　C、網(wǎng)頁(yè)被掛馬

　　其實(shí)這也是被黑的一種，但比被黑釋放垃圾頁(yè)面更為隱蔽，這類案例主要出現(xiàn)在企業(yè)網(wǎng)站或者是一些比較小的網(wǎng)站上，黑客直接在頁(yè)面上放置展現(xiàn)廣告代碼，而且會(huì)判斷來(lái)訪者是普通用戶還是蜘蛛，然后區(qū)別對(duì)待；或者是僅給某一個(gè)地區(qū)的用戶訪問(wèn)掛馬頁(yè)面，給蜘蛛和其他大部分所在地展現(xiàn)正常頁(yè)面等，這些其實(shí)都是非常隱蔽的行為，沒(méi)有用戶舉報(bào)站點(diǎn)也很難發(fā)現(xiàn)，但百度搜索引擎無(wú)法容忍這樣的頁(yè)面出現(xiàn)在搜索結(jié)果里，自然這些站點(diǎn)會(huì)受到懲罰。

　　D、UGC站點(diǎn)被SPAMMER群發(fā)

　　最后說(shuō)UGC站點(diǎn)，所有以用戶貢獻(xiàn)內(nèi)容的站點(diǎn)在審核機(jī)制上一定要加強(qiáng)防范，目前平臺(tái)能夠接到的不少案例都是UGC站點(diǎn)存在監(jiān)管不利，導(dǎo)致有大量的垃圾內(nèi)容在線上，當(dāng)垃圾內(nèi)容與正常內(nèi)容的比例達(dá)到一定閾值，就有可能整站被百度搜索引擎懲罰。

　　二、站點(diǎn)流量異常原因之特征頁(yè)分析

　　1、分析流程圖

　　流程圖會(huì)按照三步來(lái)讓站點(diǎn)確認(rèn)到底是正常下跌還是異常下跌，在此站長(zhǎng)第一步首先要找到特征頁(yè)面

　　2、查找特征頁(yè)面

　　首先說(shuō)什么叫特征頁(yè)面，即流量下滑比較多的頁(yè)面，這類頁(yè)面又是結(jié)構(gòu)化頁(yè)面，內(nèi)容不同頁(yè)面所搶的關(guān)鍵詞不同，但頁(yè)面框架結(jié)構(gòu)是統(tǒng)一的。比如關(guān)鍵詞“北京旅游、上海旅游、天津旅游”對(duì)應(yīng)A類頁(yè)面，那么在此類關(guān)鍵詞消失后，這個(gè)A類頁(yè)面也沒(méi)有流量，于是A類頁(yè)面就是我們說(shuō)的特征頁(yè)面，要看看A類頁(yè)面發(fā)生過(guò)哪些變化。首先找出昔日的流量對(duì)比，過(guò)去一段時(shí)間與現(xiàn)狀的差距。其次回憶一下近期此類頁(yè)面有怎樣的改動(dòng)，這些改動(dòng)是否存在運(yùn)維篇的問(wèn)題，那么觀察幾日后給出流量損失范圍。

　　3、分析異常特征

　　從流量損失范圍大體可以判定兩種情況：

　　A、排名無(wú)，流量無(wú)

　　上面所講的關(guān)鍵詞排名無(wú)，網(wǎng)站流量無(wú)——很有可能是受到了懲罰，可能是局部懲罰也可能是站點(diǎn)整體被懲罰。具體原因可以參見(jiàn)之前推出的石榴算法及綠蘿2.0算法，當(dāng)然大量算法我們沒(méi)有公布出來(lái)，各位可以參考《百度網(wǎng)頁(yè)搜索質(zhì)量白皮書(shū)》，觀察站點(diǎn)是否存在此類問(wèn)題。參考鏈接：

　　百度綠蘿算法2.0更新公告

　　石榴算法—低質(zhì)量頁(yè)面終結(jié)者

　　對(duì)買賣鏈接行為的提醒，出售鏈接同樣會(huì)受打擊

　　B、部分排名無(wú)，流量損失較大

　　例如，特征頁(yè)面A本對(duì)應(yīng)多個(gè)關(guān)鍵詞，有些關(guān)鍵詞下已找不到A，而有些仍然可以找到，基本可以說(shuō)明該頁(yè)面并不在懲罰范圍內(nèi)，可能是百度算法在做調(diào)整。而如果所有關(guān)鍵詞下都難以找到A頁(yè)面，那極有可能是被懲罰了。

　　三、站點(diǎn)流量異常原因之相關(guān)因素：外鏈爆增

　　站長(zhǎng)平臺(tái)在接到很多案例中，有很大一部分是因?yàn)橥怄湲惓６髁渴艿捷^大影響的，在此先給大家說(shuō)一下外鏈工具顯示數(shù)據(jù)來(lái)源及規(guī)則：外鏈工具是統(tǒng)計(jì)站點(diǎn)在一段時(shí)間內(nèi)，鏈接到您網(wǎng)站的URL、被鏈接網(wǎng)頁(yè)URL、錨文本等內(nèi)容，站長(zhǎng)可以通過(guò)這些數(shù)據(jù)識(shí)別和判斷哪些是符合預(yù)期的外鏈投票、哪些是不符合預(yù)期的。那么如果發(fā)生外鏈爆增時(shí)絕大部分站點(diǎn)是不符合預(yù)期的增長(zhǎng)，這里我們從三種情況出發(fā)來(lái)剖析和解決此類問(wèn)題。

　　1、首頁(yè)、頻道頁(yè)、重點(diǎn)頁(yè)面被惡意投票

　　A、此類事件主要是在被鏈接URL被莫名的站點(diǎn)大量投票，如果遇到此種現(xiàn)象一定要注意，很有可能是惡意投票行為，目的是通過(guò)大量垃圾站點(diǎn)對(duì)站點(diǎn)的投票，降低站點(diǎn)在百度搜索引擎中的評(píng)價(jià)。

　　B、此類問(wèn)題的措施只能是站點(diǎn)加大拒絕力度，從而屏蔽掉無(wú)意義的投票鏈接

　　2、用戶創(chuàng)建頁(yè)面，垃圾個(gè)人頁(yè)，內(nèi)容頁(yè)

　　A、UGC站點(diǎn)尤其要關(guān)注這點(diǎn)，之前談過(guò)要加大審核及處理力度，杜絕讓用戶創(chuàng)建垃圾內(nèi)容、個(gè)人頁(yè)面。不良分子為了排名的效果更好，會(huì)再對(duì)這些垃圾頁(yè)進(jìn)行投票。這里特別要提醒的是，如果站點(diǎn)審核力度及時(shí)就不會(huì)發(fā)生此類事情，只有站點(diǎn)內(nèi)容長(zhǎng)期處于無(wú)人管理的狀態(tài)時(shí)才會(huì)出現(xiàn)如此問(wèn)題。

　　B、此類問(wèn)題的措施只能是站點(diǎn)加大審核力度，關(guān)閉垃圾頁(yè)面，同時(shí)拒絕這些垃圾投票的域名及站點(diǎn)

　　3、拼接搜索結(jié)果頁(yè)漏洞

　　拼接搜索結(jié)果頁(yè)是通過(guò)地址欄參數(shù)變化而動(dòng)態(tài)創(chuàng)建出的頁(yè)面，例如下圖這些頁(yè)面，TITLE中往往包含了過(guò)多的垃圾詞，提交給搜索引擎后，為了排名效果再對(duì)這些頁(yè)面進(jìn)行投票而產(chǎn)生了過(guò)量的外鏈投票。

　　此類頁(yè)面不良分子就是鉆了拼接搜索結(jié)果頁(yè)的title、description可以顯示拼接代碼中的垃圾內(nèi)容。理論上百度搜索引擎會(huì)拒絕收錄這樣的頁(yè)面，但畢竟站點(diǎn)數(shù)量巨大還會(huì)出現(xiàn)遺漏。所以如果想解決此類問(wèn)題，可以在百度站長(zhǎng)平臺(tái)反饋中心反饋下述內(nèi)容：

　　1）舉例已收錄被鏈接頁(yè)面

　　2）給出搜索此類頁(yè)面關(guān)鍵詞的鏈接

　　3）描述頁(yè)面收錄量及外鏈量（給出外鏈分析中的數(shù)據(jù)）

　　4、如何預(yù)防產(chǎn)生拼接搜索結(jié)果頁(yè)

　　上面也說(shuō)了，拼接搜索結(jié)果頁(yè)是不良分子鉆了可以控制頁(yè)面的title、description內(nèi)容而制造了大量的頁(yè)面，從而進(jìn)行投票的行為。那么如果在拼接搜索結(jié)果頁(yè)中禁止這些無(wú)效參數(shù)展示在Title和Description中自然就沒(méi)有這個(gè)漏洞，下圖以攜程為例，拼接頁(yè)面中的title和description都是固定內(nèi)容，無(wú)論頁(yè)面參數(shù)怎么變化這些都不會(huì)改變。

　　具體內(nèi)容可以參考之前平臺(tái)發(fā)布的相關(guān)文章《防止網(wǎng)站內(nèi)部搜索被他人惡意利用》