Cet article partage principalement avec vous un article sur thinkphp5 + beanbun pour réaliser une saisie simple des URL de films et des images. Il a une bonne valeur de référence et j'espère qu'il sera utile à tout le monde. Suivons l'éditeur pour y jeter un œil, j'espère que cela pourra aider tout le monde.
Créez d'abord deux tables de données pour stocker respectivement la table d'URL de premier niveau et la table d'images sous cette URL
table de données dywz
CREATE TABLE `think_dy2018` ( `id` int(7) unsigned NOT NULL AUTO_INCREMENT COMMENT '主键id', `movieName` varchar(255) NOT NULL COMMENT '电影名', `movieUrl` varchar(520) NOT NULL COMMENT '电影详情页地址', `addTime` int(11) NOT NULL COMMENT '添加时间', PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=8808 DEFAULT CHARSET=utf8 COMMENT='dywz信息采集'
CREATE TABLE `think_dy2018imgs` ( `id` int(8) unsigned NOT NULL AUTO_INCREMENT COMMENT '图片id', `urlID` int(7) NOT NULL COMMENT '关联的电影ID', `imgUrl` varchar(520) DEFAULT NULL COMMENT '图片地址', `create_time` int(10) NOT NULL COMMENT '图片添加时间', PRIMARY KEY (`id`), KEY `urlID` (`urlID`) ) ENGINE=InnoDB AUTO_INCREMENT=1279 DEFAULT CHARSET=utf8 COMMENT='图片地址'
Ensuite, écrivez via thinkphp5. Tout d'abord, vous devez installer l'extension Beanbun, puis analyser le site Web du film. Après avoir utilisé Beanbun pour récupérer la page, utilisez les règles habituelles pour filtrer le movieName et le movieUrl souhaités.
code thinkphp5
1. Exécutez getList() pour obtenir la page de premier niveau movieName, movieUrl
2. Exécutez getImage() pour obtenir les informations détaillées sous chaque URL de film sur le page de premier niveau Grande image
<?php /* +------------------------------------------------------------------------------------------- + Title : 爬虫控制器 + Version : V1.0.0.2 + Initial-Time : 2018/3/27 + sgw + Last-time : 2018/3/27 + sgw + Desc : 爬取网站电影信息 +------------------------------------------------------------------------------------------- */ namespace app\index\controller; use \Beanbun\Beanbun; use Beanbun\Lib\Helper; use \GuzzleHttp\Client; use \think\Controller; use \think\Db; class Robot extends Controller{ /** * 抓取 一级页面信息 */ public function getList(){ $beanbun = new Beanbun; $urlList = ['http://www.ygdy8.net/html/gndy/dyzz/index.html']; for($i=2;$i<=173;$i++ ){ $urlList[] = 'http://www.ygdy8.net/html/gndy/dyzz/list_23_'.$i.'.html'; } $beanbun->seed = $urlList; $beanbun->afterDownloadPage = function($beanbun) { if (strlen($beanbun->page) < 100) { $beanbun->error(); } # 对抓取内容转码 $contents = mb_convert_encoding($beanbun->page,'utf8' ,'gb2312'); file_put_contents('66.html', $contents); $patter = '/<td height="26">\s*<b>\s*<a href="(.+)".*>(.*)<\/a>\s*<\/b>/sU'; preg_match_all($patter, $contents, $m); # 对抓取的数据分析插入数据库 if($m[0]){ $hrefs = $m[1]; $titles = $m[2]; foreach ($hrefs as $key => $href){ $url = Helper::formatUrl($href, $beanbun->url); $data[] = [ 'movieName' => strip_tags($titles[$key]), 'movieUrl' => $url, 'addTime' => time() ]; } Db::name('dy2018')->insertAll($data); } }; # 抓取页面之后回调 $beanbun->start(); } /** * 抓取 改url下面相信信息的imges * 查询数据表中id,movieUrl。然后根据movieUrl爷们内容爬取图片(注意这里图片可能有多张,所以用循环对应同一个movieUrl的urlID) * */ public function getImage(){ # 返回bool $result = Db::table('think_dywz')->column('id,movieUrl'); foreach ($result as $key => $value){ $result = $this->https_request($value); $pattern = '/<img border="0"\s+src="(.+)".*>/sU'; preg_match_all($pattern,$result,$m); if ($m[0]) { $imgs = $m[1]; foreach ($imgs as $k=> $v) { $data = [ 'imgUrl' => $v, 'urlID' => $key, 'create_time' => time(), ]; Db::name('dywzimgs')->insert($data); } } } } /** * cURL万能函数 * @param [string] $url [请求地址] * @param [arra] $data [post的数据] * @return mixed */ private static function https_request($url, $data = null){ # 初始化一个cURL会话 $curl = curl_init(); //设置请求选项, 包括具体的url curl_setopt($curl, CURLOPT_URL, $url); curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, FALSE); //禁用后cURL将终止从服务端进行验证 curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, FALSE); if (!empty($data)){ curl_setopt($curl, CURLOPT_POST, 1); //设置为post请求类型 curl_setopt($curl, CURLOPT_POSTFIELDS, $data); //设置具体的post数据 } curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1); $response = curl_exec($curl); //执行一个cURL会话并且获取相关回复 curl_close($curl); //释放cURL句柄,关闭一个cURL会话 return $response; } }
Voici le code complet, je crois que vous êtes intelligent et que vous l'avez appris.
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!