使用 Python 下載的11種姿勢，一種比一種高級

下面你將學習如何克服可能遇到的各種挑戰，例如下載重定向的檔案、下載大型檔案、完成一個多執行緒下載以及其他策略。

1. 使用requests

你可以使用requests模組從一個網址下載檔。

考慮以下程式碼:

你只需使用requests模組的get方法取得URL，並將結果儲存到一個名為「myfile」的變量中。然後，將這個變數的內容寫入檔案。

2. 使用wget

你也可以使用Python的wget模組從一個URL下載檔案。你可以使用pip按以下指令安裝wget模組:

考慮以下程式碼，我們將使用它下載Python的logo映像。

在這段程式碼中，URL和路徑(映像會儲存在其中)被傳遞給wget模組的download方法。

3. 下載重定向的文件

在本節中，你將學習如何使用requests從一個URL下載文件，該URL會被重定向到另一個帶有一個.pdf文件的URL。該URL看起來如下:

要下載這個pdf文件，請使用以下程式碼:

##在這段程式碼中，我們第一步指定的是URL。然後，我們使用request模組的get方法來取得該URL。在get方法中，我們將allow_redirects設為True，這將允許URL中的重定向，並且重定向後的內容將被指派給變數myfile。另外，搜尋公眾號頂級架構師後台回覆“面試籍”，以獲得一份驚喜禮包。

最後，我們開啟一個檔案來寫入所獲取的內容。

4. 分塊下載大檔案

考慮下面的程式碼:

#首先，我們像以前一樣使用requests模組的get方法，但這一次，我們將把stream屬性設為True。

接著，我們在目前工作目錄中建立一個名為PythonBook.pdf的文件，並開啟它進行寫入。

然後，我們指定每次要下載的區塊大小。我們已經將其設定為1024字節，接著遍歷每個區塊，並在檔案中寫入這些區塊，直到區塊結束。

不漂亮嗎?別擔心，稍後我們將顯示一個下載過程的進度條。

5. 下載多個文件(並行/批次下載)

要同時下載多個文件，請匯入以下模組:

#我們導入了os和time模組來檢查下載檔案需要多少時間。 ThreadPool模組允許你使用池來執行多個執行緒或進程。

讓我們建立一個簡單的函數，將回應分塊傳送到一個檔案:

#這個URL是一個二維數組，它指定了你要下載的頁面的路徑和URL。

就像在前一節中所做的那樣，我們將這個URL傳遞給requests.get。最後，我們開啟檔案(URL中指定的路徑)並寫入頁面內容。

現在，我們可以分別為每個URL呼叫這個函數，我們也可以同時為所有URL呼叫這個函數。讓我們在for迴圈中分別為每個URL呼叫這個函數，注意計時器:

現在，使用以下程式碼行取代for迴圈：

運行該腳本。

6. 使用進度條進行下載

進度條是clint模組的一個UI元件。輸入以下指令來安裝clint模組：

考慮以下程式碼:

在這段程式碼中，我們首先導入了requests模組，然後，我們從clint.textui導入了進度元件。唯一的區別是在for迴圈中。在將內容寫入檔案時，我們使用了進度條模組的bar方法。

7. 使用urllib下載網頁

在本節中，我們將使用urllib下載一個網頁。

urllib函式庫是Python的標準函式庫，所以你不需要安裝它。

以下程式碼行可以輕鬆地下載一個網頁:

在這裡指定你想將檔案保存為什麼以及你想將它儲存在哪裡的URL 。

在這段程式碼中，我們使用了urlretrieve方法並傳遞了檔案的URL，以及儲存檔案的路徑。檔案副檔名將是.html。

8. 透過代理下載

如果你需要使用代理下載你的文件，你可以使用urllib模組的ProxyHandler。請看以下程式碼：

在這段程式碼中，我們建立了代理對象，並透過呼叫urllib的build_opener方法來開啟該代理，並傳入該代理對象。然後，我們建立請求來獲取頁面。

此外，你還可以按照官方文件的介紹來使用requests模組:

#你只需要匯入requests模組並建立你的代理程式物件。然後，你就可以取得文件了。

9. 使用urllib3

urllib3是urllib模組的改良版。你可以使用pip下載並安裝它:

我們將透過使用urllib3來取得一個網頁並將它儲存在一個文字檔案中。

匯入以下模組:

在處理檔案時，我們使用了shutil模組。

現在，我們像這樣來初始化URL字串變數：

#然後，我們使用了urllib3的PoolManager ，它會追蹤必要的連接池。

建立一個文件:

#最後，我們發送一個GET請求來取得該URL並開啟一個文件，接著將回應寫入該檔案:

10. 使用Boto3從S3下載檔案

要從Amazon S3下載文件，你可以使用Python boto3模組。

在開始之前，你需要使用pip安裝awscli模組:

#對於AWS配置，請執行以下指令：

現在，按以下指令輸入你的詳細資料：

要從Amazon S3下載文件，你需要匯入boto3和botocore。 Boto3是一個Amazon SDK，它允許Python存取Amazon web服務(如S3)。 Botocore提供了與Amazon web服務互動的命令列服務。

Botocore自帶了awscli。要安裝boto3，請執行以下命令:

現在，導入這兩個模組：

在從Amazon下載檔案時，我們需要三個參數：

• Bucket名稱
• 你需要下載的檔案名稱
• 」檔案下載之後的名稱

初始化變數：

現在，我們初始化一個變數來使用會話的資源。為此，我們將呼叫boto3的resource()方法並傳入服務，即s3:

#最後，使用download_file方法下載檔案並傳入變數:

11. 使用asyncio

asyncio模組主要用於處理系統事件。它圍繞著一個事件循環進行工作，該事件循環會等待事件發生，然後對該事件作出反應。這個反應可以是呼叫另一個函數。這個過程稱為事件處理。 asyncio模組使用協同程序進行事件處理。

要使用asyncio事件處理和協同功能，我們將導入asyncio模組:

#現在，像這樣定義asyncio協同方法：

#關鍵字async表示這是一個原生asyncio協同程式。在協同程序的內部，我們有一個await關鍵字，它會傳回一個特定的值。我們也可以使用return關鍵字。

現在，讓我們使用協同創建一段程式碼來從網站下載一個檔案:

#在這段程式碼中，我們創建了一個非同步協同函數，它會下載我們的文件並返回一條訊息。

然後，我們使用另一個非同步協同程式呼叫main_func，它會等待URL並將所有URL組成一個佇列。 asyncio的wait函式會等待協同程序完成。

現在，為了啟動協同程序，我們必須使用asyncio的get_event_loop()方法將協同程序放入事件循環中，最後，我們使用asyncio的run_until_complete()方法執行該事件循環。

使用Python下載檔案是很有趣的。希望本教學對你有用！

以上是使用 Python 下載的11種姿勢，一種比一種高級的詳細內容。更多資訊請關注PHP中文網其他相關文章！