PHP で Web クローリングとデータ スクレイピングを実行するにはどうすればよいですか?
インターネット時代の到来により、ネットワーク データをクローリングして取得することが多くの人々にとって日常的な仕事になりました。 Web 開発をサポートするプログラミング言語の中でも、PHP はそのスケーラビリティと使いやすさにより、Web クローラーやデータ スクレイピングに人気の選択肢となっています。この記事では、PHP で Web クローリングとデータ スクレイピングを行う方法を次の観点から紹介します。
1. HTTP プロトコルとリクエストの実装
Web クローリングとデータ クローリングを実行する前に、HTTP プロトコルとリクエストの実装についてある程度理解しておく必要があります。 HTTP プロトコルはリクエスト/レスポンス モデルに基づいており、Web ページをクロールするプロセスはリクエストをシミュレートし、レスポンスを取得するプロセスです。 PHP では、curl ライブラリを使用して HTTP リクエストを実装できます。 curl を使用してセッションを初期化し、リクエスト パラメーターを設定してリクエストを送信し、応答情報を取得します。以下は簡単な例です。
$ch = curl_init(); curl_setopt($ch, CURLOPT_URL, 'https://example.com'); curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); $response = curl_exec($ch); curl_close($ch);
このコードは、curl を使用して URL 'https://example.com' への GET リクエストを実装し、応答コンテンツを返します。このうち、CURLOPT_URL がリクエストされた URL で、CURLOPT_RETURTRANSFER が true に設定されているため、curl_exec() 関数は応答内容を直接出力せずに返します。
2. HTML 解析
Web ページの応答コンテンツを取得した後、HTML を解析して目的の情報を抽出する必要があります。 PHP では、Symfony の DomCrawler や Goutte などのサードパーティ ライブラリを使用して HTML を解析できます。以下は、DomCrawler を使用して HTML を解析する簡単な例です。
use SymfonyComponentDomCrawlerCrawler;
$html = '<html><title>example</title><body><div class="post"><h2>Test</h2><p>Content</p></div></body></html>';
$crawler = new Crawler($html);
$title = $crawler->filter('title')->text();
$content = $crawler->filter('.post p')->text();このコードでは、まず DomCrawler ライブラリをインストールしてインポートし、次に $html 文字列を使用して Crawler オブジェクトを初期化する必要があります。次に、指定された HTML 要素を filter() メソッドで抽出し、text() メソッドでプレーン テキストに変換します。
3. 正規表現
PHP では、正規表現を使用して HTML テキストを操作することもできます。正規表現は、テキスト内の特定の文字、単語、またはパターンと一致するパターンを定義する汎用のテキスト マッチング ツールです。以下は簡単な例です:
$html = '<html><title>example</title><body><div class="post"><h2>Test</h2><p>Content</p></div></body></html>';
preg_match('/<title>(.*)</title>/', $html, $matches);
$title = $matches[1];
preg_match('/<div class="post">(.*)</div>/', $html, $matches);
$content = $matches[1];このコードは preg_match() 関数を使用して HTML 内のタイトルとコンテンツを照合し、定義された正規表現を通じてターゲット コンテンツを抽出します。あいまいな一致や偶発的な一致を避けるために、正規表現はできるだけ正確である必要があることに注意してください。
4. データベース操作
データ クロールでは通常、後続の分析と使用のためにクロールされたデータを保存する必要があります。 PHP では、データ ストレージに MySQL などの複数のデータベースを使用できます。以下は、簡単な MySQL データベース操作の例です:
$conn = mysqli_connect("localhost", "user", "password", "example");
if (!$conn) {
die("Connection failed: " . mysqli_connect_error());
}
$sql = "INSERT INTO posts (title, content) VALUES ('$title', '$content')";
if (mysqli_query($conn, $sql)) {
echo "New record created successfully";
} else {
echo "Error: " . $sql . "<br>" . mysqli_error($conn);
}
mysqli_close($conn);このコードは、mysqli_connect() 関数を使用して MySQL データベースに接続し、次に mysqli_query() 関数を使用してタイトルとコンテンツを挿入する挿入操作を実行します。投稿テーブルに追加します。なお、この方法はSQLインジェクションなどのデータセキュリティの問題があり、プリペアドステートメントなどのセキュリティ対策も考慮する必要があります。
概要
上記の導入を通じて、HTTP プロトコルとリクエストの実装、HTML 解析、正規表現、データベース操作など、PHP での Web クローリングとデータ取得の基本的な方法を理解できます。 、など。実際の応用においては、Webページの構造や対象データの特性に応じて、適切な実装方法を柔軟に選択することも必要です。これらの方法を利用すれば、より効率的にデータをクロールしてスクレイピングできるようになると思います。
以上がPHP で Web クローリングとデータ スクレイピングを実行するにはどうすればよいですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
ホットAIツール
Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ
AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。
Undress AI Tool
脱衣画像を無料で
Clothoff.io
AI衣類リムーバー
AI Hentai Generator
AIヘンタイを無料で生成します。
人気の記事
ホットツール
メモ帳++7.3.1
使いやすく無料のコードエディター
SublimeText3 中国語版
中国語版、とても使いやすい
ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境
ドリームウィーバー CS6
ビジュアル Web 開発ツール
SublimeText3 Mac版
神レベルのコード編集ソフト（SublimeText3）
ホットトピック
7530
15
1379
52
82
11
21
76
Ubuntu および Debian 用の PHP 8.4 インストールおよびアップグレード ガイド
Dec 24, 2024 pm 04:42 PM
PHP 8.4 では、いくつかの新機能、セキュリティの改善、パフォーマンスの改善が行われ、かなりの量の機能の非推奨と削除が行われています。 このガイドでは、Ubuntu、Debian、またはその派生版に PHP 8.4 をインストールする方法、または PHP 8.4 にアップグレードする方法について説明します。
PHP 開発用に Visual Studio Code (VS Code) をセットアップする方法
Dec 20, 2024 am 11:31 AM
Visual Studio Code (VS Code とも呼ばれる) は、すべての主要なオペレーティング システムで利用できる無料のソース コード エディター (統合開発環境 (IDE)) です。 多くのプログラミング言語の拡張機能の大規模なコレクションを備えた VS Code は、
今まで知らなかったことを後悔している 7 つの PHP 関数
Nov 13, 2024 am 09:42 AM
あなたが経験豊富な PHP 開発者であれば、すでにそこにいて、すでにそれを行っていると感じているかもしれません。あなたは、運用を達成するために、かなりの数のアプリケーションを開発し、数百万行のコードをデバッグし、大量のスクリプトを微調整してきました。
PHPでHTML/XMLを解析および処理するにはどうすればよいですか？
Feb 07, 2025 am 11:57 AM
このチュートリアルでは、PHPを使用してXMLドキュメントを効率的に処理する方法を示しています。 XML（拡張可能なマークアップ言語）は、人間の読みやすさとマシン解析の両方に合わせて設計された多用途のテキストベースのマークアップ言語です。一般的にデータストレージに使用されます
JSON Web Tokens（JWT）とPHP APIでのユースケースを説明してください。
Apr 05, 2025 am 12:04 AM
JWTは、JSONに基づくオープン標準であり、主にアイデンティティ認証と情報交換のために、当事者間で情報を安全に送信するために使用されます。 1。JWTは、ヘッダー、ペイロード、署名の3つの部分で構成されています。 2。JWTの実用的な原則には、JWTの生成、JWTの検証、ペイロードの解析という3つのステップが含まれます。 3. PHPでの認証にJWTを使用する場合、JWTを生成および検証でき、ユーザーの役割と許可情報を高度な使用に含めることができます。 4.一般的なエラーには、署名検証障害、トークンの有効期限、およびペイロードが大きくなります。デバッグスキルには、デバッグツールの使用とロギングが含まれます。 5.パフォーマンスの最適化とベストプラクティスには、適切な署名アルゴリズムの使用、有効期間を合理的に設定することが含まれます。
母音を文字列にカウントするPHPプログラム
Feb 07, 2025 pm 12:12 PM
文字列は、文字、数字、シンボルを含む一連の文字です。このチュートリアルでは、さまざまな方法を使用してPHPの特定の文字列内の母音の数を計算する方法を学びます。英語の母音は、a、e、i、o、u、そしてそれらは大文字または小文字である可能性があります。 母音とは何ですか？ 母音は、特定の発音を表すアルファベットのある文字です。大文字と小文字など、英語には5つの母音があります。 a、e、i、o、u 例1 入力：string = "tutorialspoint" 出力：6 説明する 文字列「TutorialSpoint」の母音は、u、o、i、a、o、iです。合計で6元があります
PHPでの後期静的結合を説明します（静的：:)。
Apr 03, 2025 am 12:04 AM
静的結合（静的：:) PHPで後期静的結合（LSB）を実装し、クラスを定義するのではなく、静的コンテキストで呼び出しクラスを参照できるようにします。 1）解析プロセスは実行時に実行されます。2）継承関係のコールクラスを検索します。3）パフォーマンスオーバーヘッドをもたらす可能性があります。
PHPマジックメソッド（__construct、__destruct、__call、__get、__setなど）とは何ですか？
Apr 03, 2025 am 12:03 AM
PHPの魔法の方法は何ですか？ PHPの魔法の方法には次のものが含まれます。1。\ _ \ _コンストラクト、オブジェクトの初期化に使用されます。 2。\ _ \ _リソースのクリーンアップに使用される破壊。 3。\ _ \ _呼び出し、存在しないメソッド呼び出しを処理します。 4。\ _ \ _ get、dynamic属性アクセスを実装します。 5。\ _ \ _セット、動的属性設定を実装します。これらの方法は、特定の状況で自動的に呼び出され、コードの柔軟性と効率を向上させます。
