一、百度搜索robots協(xié)議全新升級
9月11日，百度搜索robots全新升級。升級后robots將優(yōu)化對網(wǎng)站視頻URL收錄抓取情況。僅當您的網(wǎng)站包含不希望被視頻搜索引擎收錄的內(nèi)容時，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請勿建立robots.txt文件。
如您的網(wǎng)站未設置robots協(xié)議，百度搜索對網(wǎng)站視頻URL的收錄將包含視頻播放頁URL，及頁面中的視頻文件、視頻周邊文本等信息，搜索對已收錄的短視頻資源將對用戶呈現(xiàn)為視頻極速體驗頁。此外，綜藝影視類長視頻，搜索引擎僅收錄頁面URL。
二、網(wǎng)站誤封Robots該如何處理
robots文件是搜索生態(tài)中很重要的一個環(huán)節(jié)，同時也是一個很細節(jié)的環(huán)節(jié)。很多站長同學在網(wǎng)站運營過程中，很容易忽視robots文件的存在，進行錯誤覆蓋或者全部封禁robots，造成不必要損失！
那么如果誤操作封禁了robots怎么辦？今天我們請到了廈門某網(wǎng)站運營負責人，為我們分享網(wǎng)站robots誤封禁后該如何操作？
【案例背景】
網(wǎng)站開發(fā)2.0版本，技術(shù)選擇了在線開發(fā)，為了避免搜索引擎抓取開發(fā)版本，要求技術(shù)人員設置了Robots封禁處理。2.0版本開發(fā)周期1個月，1個月后網(wǎng)站版本迭代，直接覆蓋了1.0版本，包括Robots封禁文件，2天后發(fā)現(xiàn)流量大幅下降，檢查收錄發(fā)現(xiàn)800萬收錄降至0條，關鍵詞大量掉線。
【處理方式】
1.修改Robots封禁為允許，然后到百度搜索資源后臺檢測并更新Robots。
2.在百度搜索資源后臺抓取檢測，此時顯示抓取失敗，沒關系，多點擊抓取幾次，觸發(fā)蜘蛛抓取站點。
3.在百度搜索資源后臺抓取頻次，申請抓取頻次上調(diào)。
4.百度反饋中心，反饋是因為誤操作導致了這種情況的發(fā)生。
5.百度搜索資源后臺鏈接提交處，設置數(shù)據(jù)API推送（實時）。
6.更新sitemap網(wǎng)站地圖，重新提交百度，每天手動提交一次。
以上處理完，接下來就是等待了，萬幸，2天的時間數(shù)據(jù)開始慢慢回升，到第3天基本回升到正常狀態(tài)！
【案例總結(jié)】
本次事故絕對是運營生涯的一次敗筆，總結(jié)反思一下，希望大家避免類似問題。
1.產(chǎn)品開發(fā)一定要避免在線開發(fā)，不能為了省事不搭建開發(fā)環(huán)境。
2.產(chǎn)品迭代要有流程記錄，開發(fā)時做了那些設置處理，那些是不需要放出來的，那些是必須放出來的，要非常清楚。
3.要經(jīng)常關注百度搜索資源后臺，關注相關數(shù)據(jù)變化，從數(shù)據(jù)變化中及時發(fā)現(xiàn)問題。
