首頁 後端開發 php教程 爬蟲實戰:使用PHP爬取攜程旅遊訊息

爬蟲實戰:使用PHP爬取攜程旅遊訊息

Jun 13, 2023 am 10:26 AM
php 爬蟲 攜程旅遊

隨著旅遊業的不斷發展,旅遊資訊變得非常豐富。為了方便大家取得更全面、準確的旅遊信息,我們可以使用爬蟲來抓取旅遊網站上的數據,並進行分析和處理。本文將介紹如何使用PHP爬取攜程旅遊資訊。

  1. 爬蟲基礎知識

爬蟲是一種自動化程序,可以模擬使用者造訪網站並取得網站上的資料。爬蟲一般分為以下幾個步驟:

  1. 發起請求:爬蟲程式會向目標網站發起HTTP請求,取得目標網站的HTML程式碼。
  2. 解析HTML:使用適當的解析器對HTML程式碼進行解析,並取得所需的資料。常見的解析器有正規表示式、XPath和DOM解析器等。
  3. 儲存資料:將取得到的資料儲存到檔案或資料庫中,以便後續分析和處理。
  4. 目標網站分析

在編寫爬蟲之前,首先需要分析目標網站的結構和資料。本次爬蟲的目標網站是攜程旅遊網站。我們需要分析網站的URL結構和HTML程式碼,以確定請求方式和解析方式。

2.1 URL結構分析

攜程旅遊網站的URL結構比較簡單,每個旅遊產品都有一個唯一的ID號碼。以瀏覽北京旅遊為例,其URL為:https://you.ctrip.com/sight/beijing1.html。其中,beijing1表示北京旅遊的ID號。

2.2 HTML程式碼分析

使用Chrome瀏覽器的開發者工具檢視該網頁的HTML程式碼,可以發現頁面上的旅遊資訊都在一個class為「list_mod2」的div中。該div包含了每個旅遊產品的詳細信息,包括產品名稱、價格、評價等。在爬蟲程式中,我們需要使用PHP的DOM解析器來解析這些資訊。

  1. 爬蟲程式編寫

現在我們已經了解了目標網站的URL結構和HTML程式碼,可以編寫爬蟲程式來取得旅遊資訊。

3.1 發起HTTP請求

首先,我們需要使用PHP的cURL函式庫來向目標網站發起HTTP請求,取得目標網站的HTML程式碼。在程式碼中,我們使用了一個循環,從ID=1開始,依序取得各個旅遊產品的詳細資訊。

//爬取ID号从1到n的旅游产品的详细信息
for($i=1;$i<=$n;$i++){
    $url = "https://you.ctrip.com/sight/beijing$i.html"; //目标网站URL
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    $html = curl_exec($ch);
    curl_close($ch);
    }
登入後複製

3.2 解析HTML程式碼

接下來,我們使用PHP的DOM解析器來解析目標網站的HTML程式碼,並取得我們需要的旅遊產品資訊。在程式碼中,我們使用了XPath表達式來選擇class為「list_mod2」的div,並取得其中的產品名稱、價格、評價等資訊。

$doc = new DOMDocument();
$doc->loadHTML($html);
$xpath = new DOMXPath($doc);
$list_mod2 = $xpath->query('//*[@class="list_mod2"]'); //选择class为"list_mod2"的div
foreach($list_mod2 as $mod){
    $modImg = $xpath->query('a/img/@src', $mod)->item(0)->nodeValue; //获取产品图片URL
    $modTitle = $xpath->query('div/h2/a', $mod)->item(0)->nodeValue; //获取产品名称
    $modContent = $xpath->query('div/div/div/p/@title', $mod)->item(0)->nodeValue; //获取产品简介
    $modPrice = $xpath->query('div/div/span/em', $mod)->item(0)->nodeValue; //获取产品价格
    $modComment = $xpath->query('div/div/div/div/span[1]', $mod)->item(0)->nodeValue; //获取产品评价分数
    $modCommentNum = $xpath->query('div/div/div/div/span[2]', $mod)->item(0)->nodeValue; //获取产品评价人数
}
登入後複製

3.3 儲存資料

最後,我們將取得的旅遊產品資訊儲存到資料庫中。在程式碼中,我們使用了PHP的PDO擴充來連接資料庫,並將取得到的產品資訊插入到名為「product_info」的資料庫表中。

//连接数据库
$dsn = 'mysql:host=localhost;port=3306;dbname=test;charset=utf8';
$username = 'root';
$password = '123456';
$options = array(PDO::ATTR_ERRMODE => PDO::ERRMODE_EXCEPTION);
$dbh = new PDO($dsn, $username, $password, $options);

//将获取到的产品信息插入到数据库
$stmt = $dbh->prepare("INSERT INTO product_info(img_url, title, content, price, comment_score, comment_num) VALUES(?, ?, ?, ?, ?, ?)");
$stmt->bindParam(1, $modImg);
$stmt->bindParam(2, $modTitle);
$stmt->bindParam(3, $modContent);
$stmt->bindParam(4, $modPrice);
$stmt->bindParam(5, $modComment);
$stmt->bindParam(6, $modCommentNum);
$stmt->execute();
登入後複製
  1. 總結

使用PHP編寫爬蟲程序,可以輕鬆地抓取攜程旅遊網站的旅遊產品信息,並將其存儲到資料庫中。在實際開發中,我們還可以使用多執行緒、IP代理等技術來提高爬蟲程式的效率和穩定性。然而,需要注意的是,在使用爬蟲程序的過程中,應尊重目標網站的版權和隱私權政策,避免侵權和濫用。

以上是爬蟲實戰:使用PHP爬取攜程旅遊訊息的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

適用於 Ubuntu 和 Debian 的 PHP 8.4 安裝和升級指南 適用於 Ubuntu 和 Debian 的 PHP 8.4 安裝和升級指南 Dec 24, 2024 pm 04:42 PM

PHP 8.4 帶來了多項新功能、安全性改進和效能改進,同時棄用和刪除了大量功能。 本指南介紹如何在 Ubuntu、Debian 或其衍生版本上安裝 PHP 8.4 或升級到 PHP 8.4

如何設定 Visual Studio Code (VS Code) 進行 PHP 開發 如何設定 Visual Studio Code (VS Code) 進行 PHP 開發 Dec 20, 2024 am 11:31 AM

Visual Studio Code,也稱為 VS Code,是一個免費的原始碼編輯器 - 或整合開發環境 (IDE) - 可用於所有主要作業系統。 VS Code 擁有大量針對多種程式語言的擴展,可以輕鬆編寫

在PHP API中說明JSON Web令牌(JWT)及其用例。 在PHP API中說明JSON Web令牌(JWT)及其用例。 Apr 05, 2025 am 12:04 AM

JWT是一種基於JSON的開放標準,用於在各方之間安全地傳輸信息,主要用於身份驗證和信息交換。 1.JWT由Header、Payload和Signature三部分組成。 2.JWT的工作原理包括生成JWT、驗證JWT和解析Payload三個步驟。 3.在PHP中使用JWT進行身份驗證時,可以生成和驗證JWT,並在高級用法中包含用戶角色和權限信息。 4.常見錯誤包括簽名驗證失敗、令牌過期和Payload過大,調試技巧包括使用調試工具和日誌記錄。 5.性能優化和最佳實踐包括使用合適的簽名算法、合理設置有效期、

php程序在字符串中計數元音 php程序在字符串中計數元音 Feb 07, 2025 pm 12:12 PM

字符串是由字符組成的序列,包括字母、數字和符號。本教程將學習如何使用不同的方法在PHP中計算給定字符串中元音的數量。英語中的元音是a、e、i、o、u,它們可以是大寫或小寫。 什麼是元音? 元音是代表特定語音的字母字符。英語中共有五個元音,包括大寫和小寫: a, e, i, o, u 示例 1 輸入:字符串 = "Tutorialspoint" 輸出:6 解釋 字符串 "Tutorialspoint" 中的元音是 u、o、i、a、o、i。總共有 6 個元

解釋PHP中的晚期靜態綁定(靜態::)。 解釋PHP中的晚期靜態綁定(靜態::)。 Apr 03, 2025 am 12:04 AM

靜態綁定(static::)在PHP中實現晚期靜態綁定(LSB),允許在靜態上下文中引用調用類而非定義類。 1)解析過程在運行時進行,2)在繼承關係中向上查找調用類,3)可能帶來性能開銷。

您如何在PHP中解析和處理HTML/XML? 您如何在PHP中解析和處理HTML/XML? Feb 07, 2025 am 11:57 AM

本教程演示瞭如何使用PHP有效地處理XML文檔。 XML(可擴展的標記語言)是一種用於人類可讀性和機器解析的多功能文本標記語言。它通常用於數據存儲

什麼是PHP魔術方法(__ -construct,__destruct,__call,__get,__ set等)並提供用例? 什麼是PHP魔術方法(__ -construct,__destruct,__call,__get,__ set等)並提供用例? Apr 03, 2025 am 12:03 AM

PHP的魔法方法有哪些? PHP的魔法方法包括:1.\_\_construct,用於初始化對象;2.\_\_destruct,用於清理資源;3.\_\_call,處理不存在的方法調用;4.\_\_get,實現動態屬性訪問;5.\_\_set,實現動態屬性設置。這些方法在特定情況下自動調用,提升代碼的靈活性和效率。

PHP和Python:比較兩種流行的編程語言 PHP和Python:比較兩種流行的編程語言 Apr 14, 2025 am 12:13 AM

PHP和Python各有優勢,選擇依據項目需求。 1.PHP適合web開發,尤其快速開發和維護網站。 2.Python適用於數據科學、機器學習和人工智能,語法簡潔,適合初學者。

See all articles