使用php方法curl抓取AJAX異步內(nèi)容思路分析及代碼分享
更新時(shí)間：2014年08月25日 11:17:48 投稿：hebedich
怎樣抓取AJAX網(wǎng)站的內(nèi)容？這是一個(gè)熱門的問題，也是一個(gè)棘手的問題。但實(shí)際上呢，抓取ajax異步內(nèi)容的頁面和抓普通的頁面區(qū)別不大。ajax只不過是做了一次異步的http請(qǐng)求，只要使用firebug類似的工具，找到請(qǐng)求的后端服務(wù)url和傳值的參數(shù)，然后對(duì)該url傳遞參數(shù)進(jìn)行抓取即可
其實(shí)抓ajax異步內(nèi)容的頁面和抓普通的頁面區(qū)別不大。ajax只不過是做了一次異步的http請(qǐng)求，只要使用firebug類似的工具，找到請(qǐng)求的后端服務(wù)url和傳值的參數(shù)，然后對(duì)該url傳遞參數(shù)進(jìn)行抓取即可。
利用Firebug的網(wǎng)絡(luò)工具
如果抓去的是頁面，則內(nèi)容中沒有顯示的數(shù)據(jù)，是一堆JS代碼。
Code
$cookie_file=tempnam('./temp','cookie');
$ch = curl_init();
$url1 = "http://www.cdut.edu.cn/default.html";
curl_setopt($ch,CURLOPT_URL,$url1);
curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1);
curl_setopt($ch,CURLOPT_HEADER,0);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);
curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析
//設(shè)置連接結(jié)束后保存cookie信息的文件
curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file);
$content=curl_exec($ch);
curl_close($ch);
$ch3 = curl_init();
$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr";
$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0";
curl_setopt($ch3,CURLOPT_URL,$url3);
curl_setopt($ch3,CURLOPT_POST,1);
curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost);
//設(shè)置連接結(jié)束后保存cookie信息的文件
curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file);
$content1=curl_exec($ch3);
curl_close($ch3);
您可能感興趣的文章:
- php使用curl和正則表達(dá)式抓取網(wǎng)頁數(shù)據(jù)示例
- 使用PHP curl模擬瀏覽器抓取網(wǎng)站信息
- PHP CURL模擬登錄新浪微博抓取頁面內(nèi)容 基于EaglePHP框架開發(fā)
- PHP curl實(shí)現(xiàn)抓取302跳轉(zhuǎn)后頁面的示例
- PHP curl 抓取AJAX異步內(nèi)容示例
- PHP中使用CURL偽造來路抓取頁面或文件
- php使用curl抓取qq空間的訪客信息示例
- php利用curl抓取新浪微博內(nèi)容示例
- PHP使用CURL實(shí)現(xiàn)多線程抓取網(wǎng)頁
- php curl抓取網(wǎng)頁的介紹和推廣及使用CURL抓取淘寶頁面集成方法
- php下通過curl抓取yahoo boss 搜索結(jié)果的實(shí)現(xiàn)代碼
- php通過curl添加cookie偽造登陸抓取數(shù)據(jù)的方法
- php使用curl代理實(shí)現(xiàn)抓取數(shù)據(jù)的方法
相關(guān)文章
下面小編就為大家?guī)硪黄褂谜齽t去除php代碼中的注釋方法。小編覺得挺不錯(cuò)的，現(xiàn)在就分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2016-11-11
PHP定時(shí)執(zhí)行任務(wù)實(shí)現(xiàn)方法詳解（Timer）
這篇文章主要介紹了PHP定時(shí)執(zhí)行任務(wù)實(shí)現(xiàn)方法詳解，定時(shí)任務(wù)在web應(yīng)用程序中比較常見，實(shí)現(xiàn)定時(shí)任務(wù)主要有兩種方案：1）使用Crontab命令，2）配合使用ignore_user_abort()和set_time_limit()，有需要的朋友可以來借鑒下。2015-07-07
這篇文章主要為大家詳細(xì)介紹了iOS 10推送通知開發(fā)教程,具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2016-09-09
這篇文章主要介紹了thinkPHP引入類的方法,結(jié)合引入phpmailer類的示例分析了thinkPHP中引入郵件發(fā)送類的步驟、實(shí)現(xiàn)方法與使用技巧,需要的朋友可以參考下2016-12-12
php字符編碼轉(zhuǎn)換之gb2312轉(zhuǎn)為utf8
PHP輸出頁面時(shí)經(jīng)常有亂碼，怎么辦呢？今天我就提供一個(gè)方法，可以自動(dòng)判斷php字符編碼,把gbk或gb2312編碼的字符串轉(zhuǎn)為utf8 。2013-10-10
laravel-admin select框默認(rèn)選中的方法
今天小編就為大家分享一篇laravel-admin select框默認(rèn)選中的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-10-10
phpexcel導(dǎo)入excel處理大數(shù)據(jù)(實(shí)例講解)
下面小編就為大家?guī)硪黄猵hpexcel導(dǎo)入excel處理大數(shù)據(jù)(實(shí)例講解)。小編覺得挺不錯(cuò)的，現(xiàn)在就分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-08-08
用Laravel輕松處理千萬級(jí)數(shù)據(jù)的方法實(shí)現(xiàn)
這篇文章主要介紹了用Laravel輕松處理千萬級(jí)數(shù)據(jù)的方法實(shí)現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-12-12
這篇文章主要介紹了PHP zip擴(kuò)展Linux下安裝過程分享,需要的朋友可以參考下2014-05-05
Laravel創(chuàng)建數(shù)據(jù)庫表結(jié)構(gòu)的例子
今天小編就為大家分享一篇Laravel創(chuàng)建數(shù)據(jù)庫表結(jié)構(gòu)的例子，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-10-10