首頁 專題 SEO 蜘蛛陷阱是什麼

蜘蛛陷阱是什麼

May 24, 2019 pm 02:11 PM

蜘蛛陷阱是指:阻止蜘蛛程式爬行網站的障礙物,如車站內搜尋、電商產品、flash網站、限制性內容等。蜘蛛陷阱的最大特點是:當蜘蛛抓取某個特定URL時,它便進入了無限循環,只有入口,沒有出口。

蜘蛛陷阱是什麼

在SEO工作中,SEO人員每天都在與內容和連結打交道,從目前來看,他們深知獨立的原創內容,對於未來站點長期發展的重要性,但這一切的開始,都有一個前提,就是避免產生「蜘蛛陷阱」。那什麼是蜘蛛陷阱呢?

「蜘蛛陷阱」是什麼?

「蜘蛛陷阱」是阻止蜘蛛程式爬行網站的障礙物,一些網站設計技術對搜尋引擎說很不友好,不利於蜘蛛爬行和抓取,這些技術被稱為蜘蛛陷阱。最大的特色是當蜘蛛抓取某個特定URL的時候,它便進入了無限循環,只有入口,沒有出口。

常見的「蜘蛛陷阱」有哪些:  

#1、站內搜尋  

這是一個常見且容易造成「蜘蛛陷阱」的地方,當你試圖在站內搜尋某些特定關鍵字的時候,如果類似search.php?q=這樣的URL位址被搜尋引擎抓取與收錄,那麼很可能產生大量無意義的搜尋結果頁面。  

解決:你可以透過Robots.txt這個文件,封鎖動態參數。

2、電商產品  

如果你以往有過操作電商網站的經歷,那麼你會遇到產品SKU的多樣性的問題,同一個主題內容,會根據SKU的不同,產生多個URL,造成大量的內容重複頁面,這也導致嚴重浪費蜘蛛抓取頻率。  

當然,還有一種特殊的「蜘蛛陷阱」與電商產品頁面類似,就是動態的內容插入,這也往往導致蜘蛛陷入溫柔的陷阱。  

解決:確保URL的規範性,你可以試著利用rel=canonical這個標籤來解決類似問題。

3、Flash網站  

為了滿足使用者的視覺體驗,建站公司通常會使用Flash網站,給使用者搭建企業官網,這樣看起來非常美觀,但由於目前搜尋引擎並不能很好的抓取與識別flash內容,往往導致網站排名很難提升。  

解決:不要做整站flash,盡量將flash嵌入網頁內容的一部分。

4、限制性內容  

對於某些站點,出去吸引粉絲的目的,很多內容只有登錄才能查看,特別是一些強制cookie的操作,這誘導與欺騙了蜘蛛,它很難辨識內容,而且不斷的嘗試抓取這個URL。  

解決:針對網站建設,盡量避免採用此策略,吸引使用者。

如何辨識「蜘蛛陷阱」  

對於辨識蜘蛛陷阱的方法,特別容易,你只需要透過以下內容:  

① 網站日誌:利用工具讀取當日蜘蛛抓取URL的內容,如果發現特殊的URL位址,那麼值得進一步關注。  

② 抓取頻率:查看百度搜尋資源平台中抓取頻率,如果某一天數值特別大,那麼很可能陷入蜘蛛陷阱。  

總結:常被討論的蜘蛛陷阱還有網站架構、sessionid、各類跳轉,本文只簡單講述了實際應用中常遇到的蜘蛛陷阱,僅供參考。

以上是蜘蛛陷阱是什麼的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
4 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

Google在瀏覽功能時刪除AI Google在瀏覽功能時刪除AI Apr 02, 2025 am 09:25 AM

Google的“瀏覽中的AI”功能(以前稱為“ SGE瀏覽”時,已停止使用。 儘管Google尚未公開陳述原因,但該功能的刪除已在其幫助部分中記錄下來。 b是什麼ai

下一波搜索:AI模式,深入研究及其他 下一波搜索:AI模式,深入研究及其他 Apr 01, 2025 am 11:49 AM

AI正在將搜索引擎從信息總監轉換為直接答案提供商。這種轉變會影響SEO,內容髮現和數字營銷,促使有關搜索未來的問題。 最近的AI進步正在加速這一問題

分頁和SEO:您需要知道2025年 分頁和SEO:您需要知道2025年 Apr 01, 2025 am 11:54 AM

為什麼您的電子商務產品和博客文章可能是Google看不見的:分頁難題 您的網頁是否阻礙了其Google搜索排名? 本文深入研究了分頁的複雜性,其SEO的含義及其R

認識LLMS.TXT,這是AI網站內容爬網的擬議標準 認識LLMS.TXT,這是AI網站內容爬網的擬議標準 Apr 01, 2025 am 11:52 AM

澳大利亞技術專家傑里米·霍華德(Jeremy Howard)提出了一個新的標準LLMS.TXT,旨在改善大型語言模型(LLMS)訪問和索引網站內容。 該標準類似於robots.txt和XML站點地圖,旨在簡化Proces

Google 2025年3月核心更新發布現已完成 Google 2025年3月核心更新發布現已完成 Apr 02, 2025 am 09:24 AM

2025年3月的Google核心更新:全面分析 Google的2025年3月核心更新於3月13日開始,並於3月27日結束,現已完成。 此更新是對Google核心排名算法的標準調整,目的是ENHA

搜索營銷中的最新工作 搜索營銷中的最新工作 Apr 01, 2025 am 11:51 AM

在搜索營銷中發現激動人心的職業機會! 該策劃的列表展示了領先品牌和代理商的最新SEO,PPC和數字營銷工作。 我們還包括前幾週的一些職位,這些職位保持開放。 霍特

遠程內容SEO在下降中的角色:報告 遠程內容SEO在下降中的角色:報告 Apr 02, 2025 am 09:52 AM

根據2025年SEO工作報告的可預期狀態,SEO就業市場正在轉移。 已經觀察到遠程和集中的SEO角色的顯著下降,上市分別下降了34%和28%。 相反,領導力波西

See all articles