首页 > 后端开发 > php教程 > php实现递归抓取网页类实例_php技巧

php实现递归抓取网页类实例_php技巧

WBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWBOYWB
发布: 2016-05-16 20:18:17
原创
1362 人浏览过

本文实例讲述了php实现递归抓取网页类的方法。分享给大家供大家参考。具体如下:

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

<&#63;php

class crawler{

 private $_depth=5;

 private $_urls=array();

 function extract_links($url)

 {

  if(!$this->_started){

   $this->_started=1;

   $curr_depth=0;

  }else{

   $curr_depth++;

  }

  if($curr_depth<$this->_depth)

  {

   $data=file_get_contents($url);

   if(preg_match_all('/((&#63;:http|https)://(&#63;:www.)*(&#63;:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(&#63;:[a-zA-Z0-9_/.-&#63;&:%,!;]*))/',$data,$urls12))

   {

    foreach($urls12[0] as $k=>$v){

     $check=get_headers($v,1);

     if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){

      $this->_urls[]=$v;

      $this->extract_links($v);

     }

    }

   }

  }

  return $this->_urls;

 }

}

&#63;>

登录后复制

希望本文所述对大家的php程序设计有所帮助。

相关标签:
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板