首頁 後端開發 Python教學 Python中的爬蟲實戰:貓眼電影爬蟲

Python中的爬蟲實戰:貓眼電影爬蟲

Jun 10, 2023 pm 12:27 PM
實戰 python爬蟲 貓眼電影

隨著網路科技的快速發展,網路上資訊的數量越來越龐大。貓眼電影作​​為國內領先的電影數據平台,為用戶提供了全面的電影資訊服務。本文將介紹如何利用Python編寫簡單的貓眼電影爬蟲,以取得電影相關數據。

  1. 爬蟲概述

爬蟲,即網路爬蟲,是自動化取得網路資料的程式。它可以透過網路上的鏈接,訪問目標網站並獲取數據,實現資訊的自動化採集。 Python是一種功能強大的程式語言,廣泛應用於資料處理、網路爬蟲、視覺化圖表等方面。

  1. 爬蟲實作

本文的貓眼電影爬蟲將透過Python的requests和BeautifulSoup庫實現。 Requests是Python HTTP庫,可以輕鬆傳送網頁請求,而BeautifulSoup是Python的HTML解析庫,可以快速解析HTML頁面。在開始之前,需要安裝這兩個庫。

2.1 導入庫

開啟Python編輯器,新建一個Python檔。首先需要匯入所需的函式庫:

import requests
from bs4 import BeautifulSoup
import csv
登入後複製

2.2 建立請求連結

接下來建立請求連結。打開貓眼電影網站,找到目標電影的鏈接,並將其複製下來。這裡以電影《唐人街探案3》為例:

url = 'https://maoyan.com/films/1250952'
登入後複製

2.3 發送請求

創建headers,設定請求頭訊息,頭資訊一般包含User-Agent、Referer、Cookie等訊息,模擬實際瀏覽器存取網頁的請求方式。這裡以Chrome瀏覽器為例。接著使用requests庫發送請求,取得網頁HTML程式碼:

headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0;Win64) AppleWebkit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
}
response = requests.get(url,headers=headers)
html = response.text
登入後複製

2.4 解析HTML程式碼

將取得到的HTML程式碼轉換為BeautifulSoup對象,使用BeautifulSoup庫解析HTML程式碼,取得目標資料。由於貓眼電影網站HTML程式碼結構較為複雜,需要深入掌握HTML和BeautifulSoup的相關知識。

soup = BeautifulSoup(html,'html.parser')
movie_title = soup.find('h1',class_='name').text
movie_info = soup.find_all('div',class_='movie-brief-container')[0]
movie_type = movie_info.find_all('li')[0].text 
movie_release_data = movie_info.find_all('li')[2].text 
movie_actors = movie_info.find_all('li')[1].text 
movie_score = soup.find('span',class_='score-num').text
登入後複製

2.5 儲存資料

處理完HTML頁面之後,需要將取得到的資料儲存到本機。這裡使用Python的csv函式庫來儲存資料。 csv庫可以將資料轉換為CSV格式,方便後續處理。

with open('movie.csv','w',newline='',encoding='utf-8-sig') as csvfile:
    writer = csv.writer(csvfile)
    writer.writerow(['电影名称',movie_title])
    writer.writerow(['电影类型',movie_type])
    writer.writerow(['上映日期',movie_release_data])
    writer.writerow(['演员阵容',movie_actors])
    writer.writerow(['豆瓣评分',movie_score])
登入後複製

整個程式碼如下:

import requests
from bs4 import BeautifulSoup
import csv

url = 'https://maoyan.com/films/1250952'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0;Win64) AppleWebkit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
}
response = requests.get(url,headers=headers)
html = response.text
soup = BeautifulSoup(html,'html.parser')
movie_title = soup.find('h1',class_='name').text
movie_info = soup.find_all('div',class_='movie-brief-container')[0]
movie_type = movie_info.find_all('li')[0].text 
movie_release_data = movie_info.find_all('li')[2].text 
movie_actors = movie_info.find_all('li')[1].text 
movie_score = soup.find('span',class_='score-num').text 
with open('movie.csv','w',newline='',encoding='utf-8-sig') as csvfile:
    writer = csv.writer(csvfile)
    writer.writerow(['电影名称',movie_title])
    writer.writerow(['电影类型',movie_type])
    writer.writerow(['上映日期',movie_release_data])
    writer.writerow(['演员阵容',movie_actors])
    writer.writerow(['豆瓣评分',movie_score])
登入後複製
  1. 總結

本文介紹如何使用Python的requests和BeautifulSoup函式庫實作貓眼電影爬蟲。透過發送網路請求、解析HTML程式碼、保存數據等步驟,我們可以輕鬆地獲取到目標電影相關數據,並將其儲存到本地。網路爬蟲技術在資料收集、資料探勘等方面具有廣泛的應用價值,我們可以透過不斷學習來提升自己的技術水平,在實務上不斷探索。

以上是Python中的爬蟲實戰:貓眼電影爬蟲的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

PHP實戰:快速實作斐波那契數列的程式碼範例 PHP實戰:快速實作斐波那契數列的程式碼範例 Mar 20, 2024 pm 02:24 PM

PHP實戰:快速實現斐波那契數列的程式碼範例斐波那契數列是數學中一個非常有趣且常見的數列,其定義如下:第一個和第二個數為0和1,從第三個數開始,每個數都是前兩個數的和。斐波那契數列的前幾個數字依序為0,1,1.2,3,5,8,13,21,...依此類推。在PHP中,我們可以透過遞歸和迭代兩種方式來實現斐波那契數列的生成。下面我們分別來展示這兩

Python中的爬蟲實戰:今日頭條爬蟲 Python中的爬蟲實戰:今日頭條爬蟲 Jun 10, 2023 pm 01:00 PM

Python中的爬蟲實戰:今日頭條爬蟲在當今資訊時代,網路上蘊含著大量的數據,對於利用這些數據進行分析和應用的需求越來越高。而爬蟲作為實現資料取得的技術手段之一,也成為了人們研究的熱門領域之一。本文將主要介紹Python中的爬蟲實戰,並重點介紹如何使用Python編寫一個今日頭條的爬蟲程式。爬蟲基礎概念在開始介紹Python中的爬蟲實戰之前,我們需要先來了解

Java開發實戰:整合七牛雲雲端儲存服務實作文件上傳 Java開發實戰:整合七牛雲雲端儲存服務實作文件上傳 Jul 06, 2023 pm 06:22 PM

Java開發實戰:整合七牛雲端儲存服務實作檔案上傳引言隨著雲端運算和雲端儲存的發展,越來越多的應用程式需要將檔案上傳至雲端進行儲存和管理。雲端儲存服務的優勢在於高可靠性、可擴充性和靈活性。本文將介紹如何使用Java語言開發,整合七牛雲端儲存服務,實現文件上傳功能。七牛雲簡介七牛雲是國內領先的雲端儲存服務供應商,提供了全面的雲端儲存和內容分發服務。使用者可以透過七牛雲提

MySQL表設計實戰:建立一個電商訂單表和商品評論表 MySQL表設計實戰:建立一個電商訂單表和商品評論表 Jul 03, 2023 am 08:07 AM

MySQL表設計實戰:建立一個電商訂單表和商品評論表在電商平台的資料庫中,訂單表和商品評論表是兩個非常重要的表格。本文將介紹如何使用MySQL來設計和建立這兩個表格,並給出程式碼範例。一、訂單表的設計與建立訂單表用於儲存使用者的購買訊息,包括訂單編號、使用者ID、商品ID、購買數量、訂單狀態等欄位。首先,我們需要建立一個名為"order"的表格,使用CREATET

深入學習 Elasticsearch 查詢文法與實戰 深入學習 Elasticsearch 查詢文法與實戰 Oct 03, 2023 am 08:42 AM

深入學習Elasticsearch查詢語法與實戰引言:Elasticsearch是一款基於Lucene的開源搜尋引擎,主要用於分散式搜尋與分析,廣泛應用於大規模資料的全文搜尋、日誌分析、推薦系統等場景。在使用Elasticsearch進行資料查詢時,靈活運用查詢語法是提高查詢效率的關鍵。本文將深入探討Elasticsearch查詢語法,並結合實際案例給出

Golang實戰:資料匯出功能的實作技巧分享 Golang實戰:資料匯出功能的實作技巧分享 Feb 29, 2024 am 09:00 AM

資料匯出功能在實際開發中是非常常見的需求,特別是在後台管理系統或資料報表匯出等場景。本文將以Golang語言為例,分享資料導出功能的實作技巧,並給出具體的程式碼範例。 1.環境準備在開始之前,確保已經安裝好Golang環境,並且熟悉Golang的基本語法和操作。另外,為了實現資料匯出功能,可能還需要使用第三方函式庫,例如github.com/360EntSec

手把手教你uniapp和小程式分包(圖文) 手把手教你uniapp和小程式分包(圖文) Jul 22, 2022 pm 04:55 PM

本篇文章為大家帶來了關於uniapp跨域的相關知識,其中介紹了uniapp和小程式分包的相關問題,每個使用分包小程式必定含有一個主包。所謂的主包,即放置預設啟動頁面/TabBar 頁面,以及一些所有分包都需用到公共資源/JS 腳本;而分包則是根據開發者的配置進行劃分,希望對大家有幫助。

Vue實戰:日期選擇器組件開發 Vue實戰:日期選擇器組件開發 Nov 24, 2023 am 09:03 AM

Vue實戰:日期選擇器元件開發引言:日期選擇器是在日常開發中常用到的一個元件,它可以方便地選擇日期,並提供各種設定選項。本文將介紹如何使用Vue框架來開發一個簡單的日期選擇器元件,並提供具體的程式碼範例。一、需求分析在開始開發前,我們需要進行需求分析,明確組件的功能與特性。根據常見的日期選擇器元件功能,我們需要實作以下幾個功能點:基礎功能:能夠選擇日期,並

See all articles