首頁 後端開發 php教程 [Python]網路爬蟲(三):異常的處理與HTTP狀態碼的分類

[Python]網路爬蟲(三):異常的處理與HTTP狀態碼的分類

Aug 08, 2016 am 09:27 AM
nbsp print quot urllib

先來說一說HTTP的異常處理問題。
當urlopen不能夠處理一個response時,產生urlError。
不過通常的Python APIs異常如ValueError,TypeError等也會同時產生。
HTTPError是urlError的子類,通常在特定HTTP URLs中產生。
 
1.URLError
通常,URLError在沒有網路連線(沒有路由到特定伺服器),或伺服器不存在的情況下產生。

這種情況下,異常同樣會帶有"reason"屬性,它是一個tuple(可以理解為不可變的數組),

包含了一個錯誤號碼和一個錯誤訊息。

我們建造一個urllib2_test06.py來感受一下異常的處理:

[python] view plaincopy

  1. import urllib2  
  2.   
  3.   
  4.   
  5. try
  6. : urllib2.urlopen(req)  
  7.   
  8. ex     
  9. print
  10.  e.reason  
  11. 按下F5,可以看到印出來的內容是:
  12. [Errno 11001] getaddrinfo failed

也就是說,錯誤號碼是11001,內容是getaddrinfo failed .HTTPError伺服器上每一個HTTP 應答物件response包含一個數字"狀態碼"。


有時狀態碼指出伺服器無法完成請求。預設的處理器會為你處理一部分這種應答。

例如:假如response是一個"重定向",需要客戶端從別的地址獲取文檔,urllib2將為你處理。

其他不能處理的,urlopen會產生一個HTTPError。

典型的錯誤包含"404"(頁面無法找到),"403"(請求禁止),和"401"(帶驗證請求)。

HTTP狀態碼表示HTTP協定所傳回的回應的狀態。

例如客戶端向伺服器發送請求,如果成功地取得請求的資源,則回傳的狀態碼為200,表示回應成功。

如果請求的資源不存在, 則通常回傳404錯誤。

HTTP狀態碼通常分為5種類型,分別以1~5五個數字開頭,由3位整數組成:

---------------- -------------------------------------------------- ------------------------------

200:請求成功     處理方式:獲得回應的內容,進行處理 

201:請求完成,結果是建立了新資源。新創建資源的URI可在回應的實體中得到   處理方式:爬蟲中不會遇到 

202:請求被接受,但處理尚未完成   處理方式:阻塞等待 

204:伺服器端已經實現了請求,但是沒有返回新的資訊。如果客戶是使用者代理,則無須為此更新自身的文件視圖。    處理方式:丟棄

300:此狀態碼不被HTTP/1.0的應用程式直接使用, 只是作為3XX類型回應的預設解釋。存在多個可用的被請求資源。處理方式:若程序中能夠處理,則進行進一步處理,如果程序中不能處理,則丟棄

301:請求到的資源都會分配一個永久的URL,這樣就可以在將來通過該URL來訪問此資源    處理方式:重定向到分配的URL302:請求到的資源在一個不同的URL處暫時保存    處理方式:重定向到暫時的URL 

304 請求的資源未更新    處理方式:丟棄 

400 非法請求    處理方式:丟棄 

    處理方式:丟棄 

404 沒有找到    處理方式:丟棄 

5XX 回應代碼以「5」開頭的狀態碼表示伺服器端發現自己出現錯誤,無法繼續執行請求   處理方式:丟棄


-------------------------------------------------- -----------------------------------------

HTTPError實例產生後會有一個整數'code'屬性,是伺服器發送的相關錯誤號碼。

Error Codes錯誤碼因為預設的處理器處理了重定向(300以外號碼),並且100-299範圍的號碼指示成功,所以你只能看到400-599的錯誤號碼。

BaseHTTPServer.BaseHTTPRequestHandler.response是一個很有用的應答號碼字典,顯示了HTTP協定所使用的所有的應答號碼。

當一個錯誤號碼產生後,伺服器傳回一個HTTP錯誤號,和一個錯誤頁面。



你可以使用HTTPError實例作為頁面傳回的應答物件response。

這表示和錯誤屬性一樣,它同樣包含了read,geturl,和info方法。


我們建造一個urllib2_test07.py來感受一下:

plaincopy

import

 urllib2  

req = urllib2
  1.   try
  2. :  
  3.     urllib2.urlopen(req)  
  4.   
  5.       
  6. print
  7.  e.code  
  8.  e.code  
  9.  e.code   e.code  
  10.     
  11. #print e.read()
  12.   
  13. 按F5頁可看見輸出了404的錯誤碼,也說沒有找到這個碼數。 3.Wrapping

所以如果你想為HTTPError或URLError做準備,將有兩個基本的辦法。推薦使用第二種。



我們建造一個urllib2_test08.py來示範一下第一個異常處理的方案: plaincopy

  1. 來自 urllib2 導入 請求, urlopen,URLError,HTTPError   'http://bbs.c sdn.net/callmewhy'
  2. )
  3.   嘗試
  4. :   
  5.   
  6. 除了
  7.  HTTPError,e:  
  8.     
  9. 列印
  10.  「伺服器無法滿足請求。」  印刷
  11.  '錯誤代碼:'
  12. ,e.code     除了
  13. URL錯誤,e:  
  14.   到伺服器。  '原因:',e.原因  
  15.   
  16.     印刷
  17.  
  18. 「沒有引發異常。」
  19.   
  20.     # 一切都很好  
  21. 和其他語言,請嘗試解決異常並將其內容打印出來。
  22. 這裡要注意的一點,除了HTTPError必須在第一個,否則除了 URLError 將同樣接受到HTTPError 因為HTTPError是URLError的子類,如果URLError在前面它會捕獲到所有的URLError(包括HTTPError )。
  23. 我們建了一個異常合
  24. [python] view 純文字
    1. 來自 urllib2 導入 請求, urlopen,URLError,HTTPError   'http://bbs.c sdn.net/callmewhy'
    2. )
    3.     嘗試
    4. :    回應 = urlopen(req)    
    5.     除了
    6.     
    7. if hasattr(e, 
    8. '代碼'): 
    9.         列印 「伺服器無法滿足要求。」
    10.     
    11.     
    12.             
    13.  
    14. '錯誤代碼: 
    15.     elif hasattr(e, '原因') :  
    16.     
    17.         列印 '我們無法連接到伺服器中。 '    
    18.     
    19.                  
    20.     
    21. 印刷  「沒有出現異常。」     
    22. 以上就介紹了[Python]網路爬蟲(三):異常的處理和HTTP狀態碼的分類,包括方面的內容,希望對PHP教程有興趣的朋友得到幫助。

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

解決方法:您的組織要求您更改 PIN 碼 解決方法:您的組織要求您更改 PIN 碼 Oct 04, 2023 pm 05:45 PM

「你的組織要求你更改PIN訊息」將顯示在登入畫面上。當在使用基於組織的帳戶設定的電腦上達到PIN過期限制時,就會發生這種情況,在該電腦上,他們可以控制個人設備。但是,如果您使用個人帳戶設定了Windows,則理想情況下不應顯示錯誤訊息。雖然情況並非總是如此。大多數遇到錯誤的使用者使用個人帳戶報告。為什麼我的組織要求我在Windows11上更改我的PIN?可能是您的帳戶與組織相關聯,您的主要方法應該是驗證這一點。聯絡網域管理員會有所幫助!此外,配置錯誤的本機原則設定或不正確的登錄項目也可能導致錯誤。即

Windows 11 上調整視窗邊框設定的方法:變更顏色和大小 Windows 11 上調整視窗邊框設定的方法:變更顏色和大小 Sep 22, 2023 am 11:37 AM

Windows11將清新優雅的設計帶到了最前沿;現代介面可讓您個性化和更改最精細的細節,例如視窗邊框。在本指南中,我們將討論逐步說明,以協助您在Windows作業系統中建立反映您的風格的環境。如何更改視窗邊框設定?按+開啟“設定”應用程式。 WindowsI前往個人化,然後按一下顏色設定。顏色變更視窗邊框設定視窗11「寬度=」643「高度=」500「>找到在標題列和視窗邊框上顯示強調色選項,然後切換它旁邊的開關。若要在「開始」功能表和工作列上顯示主題色,請開啟「在開始」功能表和工作列上顯示主題

如何在 Windows 11 上變更標題列顏色? 如何在 Windows 11 上變更標題列顏色? Sep 14, 2023 pm 03:33 PM

預設情況下,Windows11上的標題列顏色取決於您選擇的深色/淺色主題。但是,您可以將其變更為所需的任何顏色。在本指南中,我們將討論三種方法的逐步說明,以更改它並個性化您的桌面體驗,使其具有視覺吸引力。是否可以更改活動和非活動視窗的標題列顏色?是的,您可以使用「設定」套用變更活動視窗的標題列顏色,也可以使用登錄編輯程式變更非活動視窗的標題列顏色。若要了解這些步驟,請前往下一部分。如何在Windows11中變更標題列的顏色? 1.使用「設定」應用程式按+開啟設定視窗。 WindowsI前往“個人化”,然

OOBELANGUAGE錯誤Windows 11 / 10修復中出現問題的問題 OOBELANGUAGE錯誤Windows 11 / 10修復中出現問題的問題 Jul 16, 2023 pm 03:29 PM

您是否在Windows安裝程式頁面上看到「出現問題」以及「OOBELANGUAGE」語句? Windows的安裝有時會因此類錯誤而停止。 OOBE表示開箱即用的體驗。正如錯誤提示所表示的那樣,這是與OOBE語言選擇相關的問題。沒有什麼好擔心的,你可以透過OOBE螢幕本身的漂亮註冊表編輯來解決這個問題。快速修復–1.點選OOBE應用底部的「重試」按鈕。這將繼續進行該過程,而不會再打嗝。 2.使用電源按鈕強制關閉系統。系統重新啟動後,OOBE應繼續。 3.斷開系統與網際網路的連接。在脫機模式下完成OOBE的所

Windows 11 上啟用或停用工作列縮圖預覽的方法 Windows 11 上啟用或停用工作列縮圖預覽的方法 Sep 15, 2023 pm 03:57 PM

工作列縮圖可能很有趣,但它們也可能分散注意力或煩人。考慮到您將滑鼠懸停在該區域的頻率,您可能無意中關閉了重要視窗幾次。另一個缺點是它使用更多的系統資源,因此,如果您一直在尋找一種提高資源效率的方法,我們將向您展示如何停用它。不過,如果您的硬體規格可以處理它並且您喜歡預覽版,則可以啟用它。如何在Windows11中啟用工作列縮圖預覽? 1.使用「設定」應用程式點擊鍵並點選設定。 Windows按一下系統,然後選擇關於。點選高級系統設定。導航至“進階”選項卡,然後選擇“效能”下的“設定”。在「視覺效果」選

Windows 11 上的顯示縮放比例調整指南 Windows 11 上的顯示縮放比例調整指南 Sep 19, 2023 pm 06:45 PM

在Windows11上的顯示縮放方面,我們都有不同的偏好。有些人喜歡大圖標,有些人喜歡小圖標。但是,我們都同意擁有正確的縮放比例很重要。字體縮放不良或圖像過度縮放可能是工作時真正的生產力殺手,因此您需要知道如何自訂以充分利用系統功能。自訂縮放的優點:對於難以閱讀螢幕上的文字的人來說,這是一個有用的功能。它可以幫助您一次在螢幕上查看更多內容。您可以建立僅適用於某些監視器和應用程式的自訂擴充功能設定檔。可以幫助提高低階硬體的效能。它使您可以更好地控制螢幕上的內容。如何在Windows11

10種在 Windows 11 上調整亮度的方法 10種在 Windows 11 上調整亮度的方法 Dec 18, 2023 pm 02:21 PM

螢幕亮度是使用現代計算設備不可或缺的一部分,尤其是當您長時間注視螢幕時。它可以幫助您減輕眼睛疲勞,提高易讀性,並輕鬆有效地查看內容。但是,根據您的設置,有時很難管理亮度,尤其是在具有新UI更改的Windows11上。如果您在調整亮度時遇到問題,以下是在Windows11上管理亮度的所有方法。如何在Windows11上變更亮度[10種方式解釋]單一顯示器使用者可以使用下列方法在Windows11上調整亮度。這包括使用單一顯示器的桌上型電腦系統以及筆記型電腦。讓我們開始吧。方法1:使用操作中心操作中心是訪問

如何修復Windows伺服器中的啟動錯誤代碼0xc004f069 如何修復Windows伺服器中的啟動錯誤代碼0xc004f069 Jul 22, 2023 am 09:49 AM

Windows上的啟動過程有時會突然轉向顯示包含此錯誤代碼0xc004f069的錯誤訊息。雖然啟動程序已經聯機,但一些運行WindowsServer的舊系統可能會遇到此問題。透過這些初步檢查,如果這些檢查不能幫助您啟動系統,請跳到主要解決方案以解決問題。解決方法–關閉錯誤訊息和啟動視窗。然後,重新啟動電腦。再次從頭開始重試Windows啟動程序。修復1–從終端啟動從cmd終端啟動WindowsServerEdition系統。階段–1檢查Windows伺服器版本您必須檢查您使用的是哪種類型的W

See all articles