PHP抓取HTTPS网页内容方法及错误处理

PHP抓取HTTPS网页内容方法及错误处理

最近在研究Hacker News API时遇到一个HTTPS问题。因为所有的Hacker News API都是通过加密的HTTPS协议访问的，跟普通的HTTP协议不同，当使用PHP里的函数 file_get_contents() 来获取API里提供的数据时，出现错误，使用的代码是这样的：

<?php $data = file_get_contents("https://www.scutephp.com");
......

当运行上面的代码是遇到下面的错误提示：

PHP Warning:  file_get_contents(): Unable to find the wrapper "https" - did you forget to enable it when you configured PHP?

为什么会出现这样的错误？

在网上经过一番搜索，发现遇到这样错误的人还不少，问题很直接，是因为在PHP的配置文件里没有开启一个参数，在我本机上是 /apache/bin/php.ini 里的 ;extension=php_openssl.dll 这一项，需要将前面的分号去掉。你可以用下面的脚本来检查你的PHP环境的配置：

$w = stream_get_wrappers();
echo 'openssl: ',  extension_loaded  ('openssl') ? 'yes':'no', "\n";
echo 'http wrapper: ', in_array('http', $w) ? 'yes':'no', "\n";
echo 'https wrapper: ', in_array('https', $w) ? 'yes':'no', "\n";
echo 'wrappers: ', var_dump($w);

运行上面的这个脚本片段，在我的机器上得到的结果是：

openssl: no
http wrapper: yes
https wrapper: no
wrappers: array(10) {
  [0]=>
  string(3) "php"
  [1]=>
  string(4) "file"
  [2]=>
  string(4) "glob"
  [3]=>
  string(4) "data"
  [4]=>
  string(4) "http"
  [5]=>
  string(3) "ftp"
  [6]=>
  string(3) "zip"
  [7]=>
  string(13) "compress.zlib"
  [8]=>
  string(14) "compress.bzip2"
  [9]=>
  string(4) "phar"
}

替代方案

发现错误，改正错误，这很简单，困难的是，发现错误后无法改正错误。我原本是想将这个脚本方法远程主机上，但我无法修改远程主机的PHP配置，结果是，我无法使用这一方案，但我们不能在一棵树上吊死，这条路走不通，看看有没有其它路。

另外一个我经常用的PHP里抓取内容的函数是 curl ，它比 file_get_contents() 更强大，提供了很多的可选参数。对于访问 HTTPS 内容的问题，我们需要使用的 CURL 配置参数是：

curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE);

你可以从语义上看出，它是忽略/跳过了SSL安全验证。也许这不是一个很好的做法，但对于普通的场景中，这几经足够了。

下面是利用 Curl 封装的一个能访问HTTPS内容的函数：

function getHTTPS($url) {
  $ch = curl_init();
  curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, FALSE);
  curl_setopt($ch, CURLOPT_HEADER, false);
  curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
  curl_setopt($ch, CURLOPT_URL, $url);
  curl_setopt($ch, CURLOPT_REFERER, $url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, TRUE);
  $result = curl_exec($ch);
  curl_close($ch);
  return $result;
}