最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

基于curl數(shù)據(jù)采集之正則處理函數(shù)get_matches的使用

 更新時(shí)間:2013年04月28日 17:20:28   作者:  
本篇文章介紹了,基于curl數(shù)據(jù)采集之正則處理函數(shù)get_matches的使用。需要的朋友參考下

根據(jù)前兩篇的博文:

基于curl數(shù)據(jù)采集之單頁面采集函數(shù)get_html的使用

基于curl數(shù)據(jù)采集之單頁面并行采集函數(shù)get_htmls的使用

已經(jīng)可以得到了我們需要的html文件,現(xiàn)在需要處理得到的文件獲取到我們需要的采集的數(shù)據(jù)。

對于html文檔的解析,沒有像XML那樣的解析類,因?yàn)镠TML文檔有很多不成對的標(biāo)簽,很不嚴(yán)格。這個(gè)時(shí)候就需要采用其他的一些輔助類了,simplehtmldom是一個(gè)類似于JQuery方式操作HTML文檔的解析類??梢院芊奖愕牡玫较胍臄?shù)據(jù),可惜速度慢。這里不是我們這里討論的重點(diǎn),我主要使用正則來匹配我所需要的采集的數(shù)據(jù),可以很快速的得到我需要采集的信息。

考慮到get_html可以判斷返回的數(shù)據(jù),但是get_htmls沒有辦法判斷,為了方便調(diào)式和調(diào)用寫了如下兩個(gè)函數(shù):

復(fù)制代碼 代碼如下:

function get_matches($pattern,$html,$err_msg,$multi=false,$flags=0,$offset=0){
     if(!$multi){
         if(!preg_match($pattern,$html,$matches,$flags,$offset)){
             echo $err_msg."! 錯(cuò)誤信息: ".get_preg_err_msg()."\n";
             return false;
         }
     }else{
         if(!preg_match_all($pattern,$html,$matches,$flags,$offset)){
             echo $err_msg."! 錯(cuò)誤信息: ".get_preg_err_msg()."\n";
             return false;
         }
     }
     return $matches;
 }
 function get_preg_err_msg(){
     $error_code = preg_last_error();
     switch($error_code){
         case PREG_NO_ERROR :
             $err_msg = 'PREG_NO_ERROR';
             break;
         case PREG_INTERNAL_ERROR:
             $err_msg = 'PREG_INTERNAL_ERROR';
             break;
         case PREG_BACKTRACK_LIMIT_ERROR:
             $err_msg = 'PREG_BACKTRACK_LIMIT_ERROR';
             break;
         case PREG_RECURSION_LIMIT_ERROR:
             $err_msg = 'PREG_RECURSION_LIMIT_ERROR';
             break;
         case PREG_BAD_UTF8_ERROR:
             $err_msg = 'PREG_BAD_UTF8_ERROR';
             break;
         case PREG_BAD_UTF8_OFFSET_ERROR:
             $err_msg = 'PREG_BAD_UTF8_OFFSET_ERROR';
             break;
         default:
             return '未知錯(cuò)誤!';
     }
     return $err_msg.': '.$error_code;
 }

可以這樣調(diào)用:
復(fù)制代碼 代碼如下:

$url = 'http://www.baidu.com';
 $html = get_html($url);
 $matches = get_matches('!<a[^<]+</a>!',$html,'沒有找到鏈接',true);
 if($matches){
     var_dump($matches);
 }

或者這樣調(diào)用:
復(fù)制代碼 代碼如下:

$urls = array('http://www.baidu.com','http://www.hao123.com');
 $htmls = get_htmls($urls);
 foreach($htmls as $html){
     $matches = get_matches('!<a[^<]+</a>!',$html,'沒有找到鏈接',true);
     if($matches){
         var_dump($matches);
     }
 }

就可以得到所需的信息,無論單頁面采集還是多頁面采集,最終PHP還是只能處理一個(gè)頁面,由于使用get_matches了,可以對返回的值進(jìn)行判斷真假,得到正確的數(shù)據(jù),由于使用正則的時(shí)候遇到了超過正則回溯的問題,增加get_preg_err_msg來提示正則信息。

由于采集數(shù)據(jù)的時(shí)候,經(jīng)常是采集列表頁,根據(jù)列表頁得到的內(nèi)容頁鏈接再采集內(nèi)容頁,或者更多的層次,那么循環(huán)嵌套會(huì)很多,對于代碼的控制會(huì)感覺力不從心。那我們是否可以把采集列表頁的代碼和采集內(nèi)容頁的代碼,或者更多的層次的采集代碼分離開,甚至循環(huán)都簡化呢?

相關(guān)文章

最新評論

津南区| 怀来县| 庆元县| 霍山县| 泾阳县| 溆浦县| 同仁县| 富阳市| 邵武市| 饶平县| 志丹县| 廉江市| 西昌市| 蒙山县| 蓬莱市| 昭平县| 石首市| 彰武县| 务川| 枣阳市| 通州区| 海晏县| 微山县| 类乌齐县| 东山县| 昌黎县| 会昌县| 剑川县| 西丰县| 岳西县| 宝丰县| 郁南县| 仁寿县| 忻城县| 湖北省| 大渡口区| 泸西县| 玛纳斯县| 永吉县| 都兰县| 济南市|