爬蟲實戰:使用PHP爬取攜程旅遊訊息
隨著旅遊業的不斷發展,旅遊資訊變得非常豐富。為了方便大家取得更全面、準確的旅遊信息,我們可以使用爬蟲來抓取旅遊網站上的數據,並進行分析和處理。本文將介紹如何使用PHP爬取攜程旅遊資訊。
- 爬蟲基礎知識
爬蟲是一種自動化程序,可以模擬使用者造訪網站並取得網站上的資料。爬蟲一般分為以下幾個步驟:
- 發起請求:爬蟲程式會向目標網站發起HTTP請求,取得目標網站的HTML程式碼。
- 解析HTML:使用適當的解析器對HTML程式碼進行解析,並取得所需的資料。常見的解析器有正規表示式、XPath和DOM解析器等。
- 儲存資料:將取得到的資料儲存到檔案或資料庫中,以便後續分析和處理。
- 目標網站分析
在編寫爬蟲之前,首先需要分析目標網站的結構和資料。本次爬蟲的目標網站是攜程旅遊網站。我們需要分析網站的URL結構和HTML程式碼,以確定請求方式和解析方式。
2.1 URL結構分析
攜程旅遊網站的URL結構比較簡單,每個旅遊產品都有一個唯一的ID號碼。以瀏覽北京旅遊為例,其URL為:https://you.ctrip.com/sight/beijing1.html。其中,beijing1表示北京旅遊的ID號。
2.2 HTML程式碼分析
使用Chrome瀏覽器的開發者工具檢視該網頁的HTML程式碼,可以發現頁面上的旅遊資訊都在一個class為「list_mod2」的div中。該div包含了每個旅遊產品的詳細信息,包括產品名稱、價格、評價等。在爬蟲程式中,我們需要使用PHP的DOM解析器來解析這些資訊。
- 爬蟲程式編寫
現在我們已經了解了目標網站的URL結構和HTML程式碼,可以編寫爬蟲程式來取得旅遊資訊。
3.1 發起HTTP請求
首先,我們需要使用PHP的cURL函式庫來向目標網站發起HTTP請求,取得目標網站的HTML程式碼。在程式碼中,我們使用了一個循環,從ID=1開始,依序取得各個旅遊產品的詳細資訊。
//爬取ID号从1到n的旅游产品的详细信息 for($i=1;$i<=$n;$i++){ $url = "https://you.ctrip.com/sight/beijing$i.html"; //目标网站URL $ch = curl_init(); curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); $html = curl_exec($ch); curl_close($ch); }
3.2 解析HTML程式碼
接下來,我們使用PHP的DOM解析器來解析目標網站的HTML程式碼,並取得我們需要的旅遊產品資訊。在程式碼中,我們使用了XPath表達式來選擇class為「list_mod2」的div,並取得其中的產品名稱、價格、評價等資訊。
$doc = new DOMDocument(); $doc->loadHTML($html); $xpath = new DOMXPath($doc); $list_mod2 = $xpath->query('//*[@class="list_mod2"]'); //选择class为"list_mod2"的div foreach($list_mod2 as $mod){ $modImg = $xpath->query('a/img/@src', $mod)->item(0)->nodeValue; //获取产品图片URL $modTitle = $xpath->query('div/h2/a', $mod)->item(0)->nodeValue; //获取产品名称 $modContent = $xpath->query('div/div/div/p/@title', $mod)->item(0)->nodeValue; //获取产品简介 $modPrice = $xpath->query('div/div/span/em', $mod)->item(0)->nodeValue; //获取产品价格 $modComment = $xpath->query('div/div/div/div/span[1]', $mod)->item(0)->nodeValue; //获取产品评价分数 $modCommentNum = $xpath->query('div/div/div/div/span[2]', $mod)->item(0)->nodeValue; //获取产品评价人数 }
3.3 儲存資料
最後,我們將取得的旅遊產品資訊儲存到資料庫中。在程式碼中,我們使用了PHP的PDO擴充來連接資料庫,並將取得到的產品資訊插入到名為「product_info」的資料庫表中。
//连接数据库 $dsn = 'mysql:host=localhost;port=3306;dbname=test;charset=utf8'; $username = 'root'; $password = '123456'; $options = array(PDO::ATTR_ERRMODE => PDO::ERRMODE_EXCEPTION); $dbh = new PDO($dsn, $username, $password, $options); //将获取到的产品信息插入到数据库 $stmt = $dbh->prepare("INSERT INTO product_info(img_url, title, content, price, comment_score, comment_num) VALUES(?, ?, ?, ?, ?, ?)"); $stmt->bindParam(1, $modImg); $stmt->bindParam(2, $modTitle); $stmt->bindParam(3, $modContent); $stmt->bindParam(4, $modPrice); $stmt->bindParam(5, $modComment); $stmt->bindParam(6, $modCommentNum); $stmt->execute();
- 總結
使用PHP編寫爬蟲程序,可以輕鬆地抓取攜程旅遊網站的旅遊產品信息,並將其存儲到資料庫中。在實際開發中,我們還可以使用多執行緒、IP代理等技術來提高爬蟲程式的效率和穩定性。然而,需要注意的是,在使用爬蟲程序的過程中,應尊重目標網站的版權和隱私權政策,避免侵權和濫用。
以上是爬蟲實戰:使用PHP爬取攜程旅遊訊息的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

PHP 8.4 帶來了多項新功能、安全性改進和效能改進,同時棄用和刪除了大量功能。 本指南介紹如何在 Ubuntu、Debian 或其衍生版本上安裝 PHP 8.4 或升級到 PHP 8.4

Visual Studio Code,也稱為 VS Code,是一個免費的原始碼編輯器 - 或整合開發環境 (IDE) - 可用於所有主要作業系統。 VS Code 擁有大量針對多種程式語言的擴展,可以輕鬆編寫

JWT是一種基於JSON的開放標準,用於在各方之間安全地傳輸信息,主要用於身份驗證和信息交換。 1.JWT由Header、Payload和Signature三部分組成。 2.JWT的工作原理包括生成JWT、驗證JWT和解析Payload三個步驟。 3.在PHP中使用JWT進行身份驗證時,可以生成和驗證JWT,並在高級用法中包含用戶角色和權限信息。 4.常見錯誤包括簽名驗證失敗、令牌過期和Payload過大,調試技巧包括使用調試工具和日誌記錄。 5.性能優化和最佳實踐包括使用合適的簽名算法、合理設置有效期、

字符串是由字符組成的序列,包括字母、數字和符號。本教程將學習如何使用不同的方法在PHP中計算給定字符串中元音的數量。英語中的元音是a、e、i、o、u,它們可以是大寫或小寫。 什麼是元音? 元音是代表特定語音的字母字符。英語中共有五個元音,包括大寫和小寫: a, e, i, o, u 示例 1 輸入:字符串 = "Tutorialspoint" 輸出:6 解釋 字符串 "Tutorialspoint" 中的元音是 u、o、i、a、o、i。總共有 6 個元

靜態綁定(static::)在PHP中實現晚期靜態綁定(LSB),允許在靜態上下文中引用調用類而非定義類。 1)解析過程在運行時進行,2)在繼承關係中向上查找調用類,3)可能帶來性能開銷。

本教程演示瞭如何使用PHP有效地處理XML文檔。 XML(可擴展的標記語言)是一種用於人類可讀性和機器解析的多功能文本標記語言。它通常用於數據存儲

PHP的魔法方法有哪些? PHP的魔法方法包括:1.\_\_construct,用於初始化對象;2.\_\_destruct,用於清理資源;3.\_\_call,處理不存在的方法調用;4.\_\_get,實現動態屬性訪問;5.\_\_set,實現動態屬性設置。這些方法在特定情況下自動調用,提升代碼的靈活性和效率。

PHP和Python各有優勢,選擇依據項目需求。 1.PHP適合web開發,尤其快速開發和維護網站。 2.Python適用於數據科學、機器學習和人工智能,語法簡潔,適合初學者。
