この記事では、PHP による HTTPS コンテンツのクローリングの実装方法と、クローリング中に発生した HTTPS の問題への対処方法を主に紹介します。
問題
Hacker News API を調査中に HTTPS の問題が発生しました。 PHP <a href="http://www.php.cn/wiki/1311%20.%20html" target="_blank">file_get_contents</a>()
API で提供されるデータを取得するときにエラーが発生します<a href="http://www.php.cn/wiki/1311.html" target="_blank">file_get_contents</a>()
来获取API里提供的数据时,出现错误
使用的代码是这样的:
<?php $data = file_get_contents("/http://blog.it985.com/"); ?>
当运行上面的代码是遇到下面的错误提示:
PHP Warning: file_get_contents(): Unable to find the wrapper “https” – did you forget to enable it when you configured PHP?
为什么会出现这样的错误?
在网上经过一番搜索,发现遇到这样错误的人还不少,问题很直接,是因为在PHP的配置文件里没有开启一个参数,在我本机上是 /apache/bin/php.ini 里的 ;extension=php_openssl.dll
这一项,需要将前面的分号去掉。
你可以用下面的脚本来检查你的PHP环境的配置:
<?php $w = stream_get_wrappers(); echo 'openssl: ', extension_loaded ('openssl') ? 'yes':'no', "\n"; echo 'http wrapper: ', in_array('http', $w) ? 'yes':'no', "\n"; echo 'https wrapper: ', in_array('https', $w) ? 'yes':'no', "\n"; echo 'wrappers: ', var_dump($w);
运行上面的这个脚本片段,在我的机器上得到的结果是:
<?php openssl: no http wrapper: yes https wrapper: no wrappers: array(10) { [0]=> string(3) "php" [1]=> string(4) "file" [2]=> string(4) "glob" [3]=> string(4) "data" [4]=> string(4) "http" [5]=> string(3) "ftp" [6]=> string(3) "zip" [7]=> string(13) "compress.zlib" [8]=> string(14) "compress.bzip2" [9]=> string(4) "phar" }
替代方案
发现错误,改正错误,这很简单,困难的是,发现错误后无法改正错误。我原本是想将这个脚本方法远程主机上,但我无法修改远程主机的PHP配置,结果是,我无法使用这一方案,但我们不能在一棵树上吊死,这条路走不通,看看有没有其它路。
另外一个我经常用的PHP里抓取内容的函数是 curl
,它比 file_get_contents()
更强大,提供了很多的可选参数。对于访问 HTTPS 内容的问题,我们需要使用的 CURL
配置参数是:
curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE);
你可以从语义上看出,它是忽略/跳过了SSL安全验证。也许这不是一个很好的做法,但对于普通的场景中,这几经足够了。
下面是利用 Curl
function getHTTPS($url) { $ch = curl_init(); curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE); curl_setopt($ch, CURLOPT_HEADER, false); curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true); curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_REFERER, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, TRUE); $result = curl_exec($ch); curl_close($ch); return $result; }
extension=php_openssl.dll
です。 1 つの項目については、その前のセミコロンを削除する必要があります。 🎜🎜次のスクリプトを使用して、PHP 環境の構成を確認できます: 🎜rrreee🎜上記のスクリプト スニペットを実行すると、私のマシンでの結果は次のようになります: 🎜rrreee🎜🎜🎜Alternatives🎜🎜🎜🎜エラーが見つかりました、間違いを修正するのは非常に困難です難しいのは、間違いを見つけた後に修正できないことです。当初はこのスクリプト メソッドをリモート ホストに配置したかったのですが、リモート ホストの PHP 構成を変更できなかったので、このソリューションは使用できませんでしたが、ツリーにぶら下がっているわけにはいきません。この道路は機能しません。その他 方法。 🎜🎜PHP でコンテンツを取得するために私がよく使用するもう 1 つの関数は curl
です。これは file_get_contents()
よりも強力で、多くのオプションのパラメーターを提供します。 HTTPS コンテンツへのアクセスの問題については、使用する必要がある CURL
構成パラメータは次のとおりです: 🎜rrreee🎜 セマンティクスから、SSL セキュリティ検証を無視/スキップしていることがわかります。これは良いアイデアではないかもしれませんが、通常のシナリオではこれで十分です。 🎜🎜以下は、HTTPS コンテンツにアクセスできる Curl
によってカプセル化された関数です: 🎜rrreee以上がHTTPS コンテンツの取得とエラー処理のための PHP メソッドのサンプル コードの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。