PHP_php 기술을 사용하여 웹페이지를 크롤링하고 분석하는 방법에 대한 자세한 설명-PHP 튜토리얼-php.cn

PHP_php 기술을 사용하여 웹페이지를 크롤링하고 분석하는 방법에 대한 자세한 설명

WBOY

풀어 주다： 2016-05-16 19:53:44

원래의

1238명이 탐색했습니다.

이 기사의 예에서는 PHP를 사용하여 웹페이지를 크롤링하고 분석하는 방법을 설명합니다. 참고하실 수 있도록 모든 사람과 공유하세요. 자세한 내용은 다음과 같습니다.

파일을 크롤링하고 분석하는 것은 매우 간단합니다. 이 튜토리얼에서는 이를 구현하는 예제를 단계별로 안내합니다. 시작해 봅시다!

먼저 크롤링할 URL 주소를 결정해야 합니다. 이는 스크립트에서 설정하거나 $QUERY_STRING을 통해 전달할 수 있습니다. 단순화를 위해 스크립트에서 직접 변수를 설정해 보겠습니다.

<&#63;php
$url = 'http://www.php.net';
&#63;>

로그인 후 복사

두 번째 단계에서는 지정된 파일을 가져와 file() 함수를 통해 배열에 저장합니다.

<&#63;php
$url = 'http://www.php.net';
$lines_array = file($url);
&#63;>

로그인 후 복사

자, 이제 배열에 파일이 생겼습니다. 그러나 분석하려는 텍스트가 모두 한 줄에 있지 않을 수도 있습니다. 이 파일을 해결하려면 간단히 $lines_array 배열을 문자열로 변환하면 됩니다. 이를 달성하기 위해 implode(x,y) 함수를 사용할 수 있습니다. 나중에 분해(문자열 변수 배열)를 사용하려면 x를 "|" 또는 "!" 또는 기타 유사한 구분 기호로 설정하는 것이 더 나을 수 있습니다. 그러나 우리의 목적을 위해서는 x를 공백으로 설정하는 것이 가장 좋습니다. y는 implode()로 처리하려는 배열이기 때문에 또 다른 필수 매개변수입니다.

<&#63;php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array);
&#63;>

로그인 후 복사

크롤링 작업이 완료되었으니 이제 분석할 차례입니다. 이 예에서는 와 사이의 모든 항목을 가져오려고 합니다. 문자열을 구문 분석하려면 정규식이라는 것이 필요합니다.

<&#63;php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array);
eregi("<head>(.*)</head>", $lines_string, $head);
&#63;>

로그인 후 복사

코드를 살펴보겠습니다. 보시다시피 eregi() 함수는 다음 형식으로 실행됩니다.

eregi("<head>(.*)</head>", $lines_string, $head);

로그인 후 복사

"(.*)"는 모든 것을 의미하며 "와 사이의 모든 것을 분석한다"로 해석될 수 있습니다. $lines_string은 우리가 분석하고 있는 문자열이고, $head는 분석된 결과가 저장되는 배열입니다.

마지막으로 데이터를 입력할 수 있습니다. 와 사이에는 인스턴스가 하나만 있으므로 배열에 요소가 하나만 있고 이것이 우리가 원하는 요소라고 안전하게 가정할 수 있습니다. 인쇄해 봅시다.

<&#63;php
$url = 'http://www.php.net';
$lines_array = file($url);
$lines_string = implode('', $lines_array); eregi("<head>(.*)</head>", $lines_string, $head);
echo $head[0];
&#63;>

로그인 후 복사

이것이 코드의 전부입니다.

<&#63;php
//获取所有内容url保存到文件
function get_index ( $save_file , $prefix = "index_" ){
   $count = 68 ;
   $i = 1 ;
  if ( file_exists ( $save_file )) @ unlink ( $save_file );
   $fp = fopen ( $save_file , "a+" ) or die( "Open " . $save_file . " failed" );
  while( $i < $count ){
     $url = $prefix . $i . ".htm" ;
    echo "Get " . $url . "..." ;
     $url_str = get_content_url ( get_url ( $url ));
    echo " OK/n" ;
     fwrite ( $fp , $url_str );
    ++ $i ;
  }
   fclose ( $fp );
}
//获取目标多媒体对象
function get_object ( $url_file , $save_file , $split = "|--:**:--|" ){
  if (! file_exists ( $url_file )) die( $url_file . " not exist" );
   $file_arr = file ( $url_file );
  if (! is_array ( $file_arr ) || empty( $file_arr )) die( $url_file . " not content" );
   $url_arr = array_unique ( $file_arr );
  if ( file_exists ( $save_file )) @ unlink ( $save_file );
   $fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" );
  foreach( $url_arr as $url ){
    if (empty( $url )) continue;
    echo "Get " . $url . "..." ;
     $html_str = get_url ( $url );
    echo $html_str ;
    echo $url ;
    exit;
     $obj_str = get_content_object ( $html_str );
    echo " OK/n" ;
     fwrite ( $fp , $obj_str );
  }
   fclose ( $fp );
}
//遍历目录获取文件内容
function get_dir ( $save_file , $dir ){
   $dp = opendir ( $dir );
  if ( file_exists ( $save_file )) @ unlink ( $save_file );
   $fp = fopen ( $save_file , "a+" ) or die( "Open save file " . $save_file . " failed" );
  while(( $file = readdir ( $dp )) != false ){
    if ( $file != "." && $file != ".." ){
      echo "Read file " . $file . "..." ;
       $file_content = file_get_contents ( $dir . $file );
       $obj_str = get_content_object ( $file_content );
      echo " OK/n" ;
       fwrite ( $fp , $obj_str );
    }
  }
   fclose ( $fp );
}
//获取指定url内容
function get_url ( $url ){
   $reg = '/^http:////[^//].+$/' ;
  if (! preg_match ( $reg , $url )) die( $url . " invalid" );
   $fp = fopen ( $url , "r" ) or die( "Open url: " . $url . " failed." );
  while( $fc = fread ( $fp , 8192 )){
     $content .= $fc ;
  }
   fclose ( $fp );
  if (empty( $content )){
    die( "Get url: " . $url . " content failed." );
  }
  return $content ;
}
//使用socket获取指定网页
function get_content_by_socket ( $url , $host ){
   $fp = fsockopen ( $host , 80 ) or die( "Open " . $url . " failed" );
   $header = "GET /" . $url . " HTTP/1.1/r/n" ;
   $header .= "Accept: */*/r/n" ;
   $header .= "Accept-Language: zh-cn/r/n" ;
   $header .= "Accept-Encoding: gzip, deflate/r/n" ;
   $header .= "User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Maxthon; InfoPath.1; .NET CLR 2.0.50727)/r/n" ;
   $header .= "Host: " . $host . "/r/n" ;
   $header .= "Connection: Keep-Alive/r/n" ;
   //$header .= "Cookie: cnzz02=2; rtime=1; ltime=1148456424859; cnzz_eid=56601755-/r/n/r/n";
   $header .= "Connection: Close/r/n/r/n" ;
   fwrite ( $fp , $header );
   while (! feof ( $fp )) {
     $contents .= fgets ( $fp , 8192 );
   }
   fclose ( $fp );
   return $contents ;
}
//获取指定内容里的url
function get_content_url ( $host_url , $file_contents ){
   //$reg = '/^(#|<a href="http://lib.csdn.net/base/18" class='replace_word' title="JavaScript知识库" target='_blank' style='color:#df3434; font-weight:bold;'>JavaScript</a>.*&#63;|ftp:////.+|http:////.+|.*&#63;href.*&#63;|play.*&#63;|index.*&#63;|.*&#63;asp)+$/i';
   //$reg = '/^(down.*&#63;/.html|/d+_/d+/.htm.*&#63;)$/i';
   $rex = "/([hH][rR][eE][Ff])/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*/i" ;
   $reg = '/^(down.*&#63;/.html)$/i' ;
   preg_match_all ( $rex , $file_contents , $r );
   $result = "" ; //array();
   foreach( $r as $c ){
    if ( is_array ( $c )){
      foreach( $c as $d ){
        if ( preg_match ( $reg , $d )){ $result .= $host_url . $d . "/n" ; }
      }
    }
  }
  return $result ;
}
//获取指定内容中的多媒体文件
function get_content_object ( $str , $split = "|--:**:--|" ){
   $regx = "/href/s*=/s*['/"]*([^>'/"/s]+)[/"'>]*/s*(.*&#63;<//b>)/i" ;
   preg_match_all ( $regx , $str , $result );
  if ( count ( $result ) == 3 ){
     $result [ 2 ] = str_replace ( "多媒体： " , "" , $result [ 2 ]);
     $result [ 2 ] = str_replace ( " " , "" , $result [ 2 ]);
     $result = $result [ 1 ][ 0 ] . $split . $result [ 2 ][ 0 ] . "/n" ;
  }
  return $result ;
}
&#63;>

로그인 후 복사