curl または file_get_content を使用してデータをフェッチできないのはなぜですか?解決

curl または file_get_content を使用してデータをフェッチできないのはなぜですか?

この投稿は xroha によって最終編集されました: 2014-12-15 09:49:56curl または file_get_content を使用してデータを取得できないのはなぜですか?

Baidu の経験では、たとえば http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html、
ページのソース コードを直接見ると、記事データがあります。
しかし、curlとfile_get_contentでは記事の内容が正常に取得できません。
これはなぜですか? IP、オリジンなどを偽造しましたが、それでも取得できません。 Baidu はどのようにしてデータ クロールを防止しますか?

コードは次のとおりです:

<br />function fcontents( $url, $timeout = 5, $referer = "" ){<br />    $ch = curl_init();<br />    $header = array (<br />        'User-Agent: Mozilla/5.0 (Windows NT 5.2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36','X-FORWARDED-FOR:154.125.25.15', 'CLIENT-IP:154.125.25.15'<br />    );<br />    curl_setopt($ch, CURLOPT_URL, $url);<br />    curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);<br />    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);<br />    curl_setopt($ch, CURLOPT_HTTPHEADER, $header); //构造用户IP<br />    curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com/");//构造来路 <br />    $result = curl_exec($ch);<br />    curl_close($ch);<br />    return $result;<br />}<br /><br />$html = fcontents('http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html');<br /><br />echo $html;<br />

-----ソリューションのアイデア------ -------- --
curl はこのページのコンテンツのみをクロールしますが、このページにはクロールによって埋めることができない他の多くの動的コンテンツがあります
----- -解決策のアイデア--- ------------------
クッキーがないからかもしれません。最初にクッキーを追加します。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";<br />$cookie_jar = dirname(__FILE__)."/jy.cookie";<br /><br />/* 获取cookie */<br />$ch = curl_init();<br />curl_setopt($ch, CURLOPT_URL, $url);<br />curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);<br />curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);<br />curl_exec($ch);<br />curl_close($ch);

次に、リクエストするときにクッキーを持ってきてください:

$ch = curl_init();<br />curl_setopt($ch, CURLOPT_URL, $url);<br />curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);<br />curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);<br />curl_setopt($ch, CURLOPT_HEADER, 0);<br />$res = curl_exec($ch);<br />curl_close($ch);<br />echo $res;