基于PHP的簡單采集數(shù)據(jù)入庫程序
更新時間:2014年07月30日 09:34:33 投稿:hebedich
前幾天有一朋友要我?guī)妥鲆粋€采集新聞信息的程序,抽了點時間寫了個PHP版本的,隨筆記錄下。
說到采集,無非就是遠程獲取信息->提取所需內容->分類存儲->讀取->展示
也算是簡單"小偷程序"的加強版吧
下面是對應核心代碼(別拿去做壞事哦^_^)
所要采集的內容是某游戲網(wǎng)站上的公告,如下圖:

可先利用file_get_contents和簡單正則獲取基本頁面信息

整理下基本信息,采集入庫:
<?php
include_once("conn.php");
if($_GET['id']<=8&&$_GET['id']){
$id=$_GET['id'];
$conn=file_get_contents("http://www.93moli.com/news_list_4_$id.html");//獲取頁面內容
$pattern="/<li><a title=\"(.*)\" target=\"_blank\" href=\"(.*)\">/iUs";//正則
preg_match_all($pattern, $conn, $arr);//匹配內容到arr數(shù)組
//print_r($arr);die;
foreach ($arr[1] as $key => $value) {//二維數(shù)組[2]對應id和[1]剛好一樣,利用起key
$url="http://www.93moli.com/".$arr[2][$key];
$sql="insert into list(title,url) value ('$value', '$url')";
mysql_query($sql);
//echo "<a href='content.php?url=http://www.93moli.com/$url'>$value</a>"."<br/>";
}
$id++;
echo "正在采集URL數(shù)據(jù)列表$id...請稍后...";
echo "<script>window.location='list.php?id=$id'</script>";
}else{
echo "采集數(shù)據(jù)結束。";
}
?>
conn.php是數(shù)據(jù)庫連接文件
list.php是本頁面
由于要采集的數(shù)據(jù)是分頁顯示的,且頁面地址是規(guī)律遞增,所以我用了js跳轉代碼,利用id傳值控制采集的頁數(shù),也避免了for循環(huán)數(shù)目過大。


輕輕松松數(shù)據(jù)入庫,下篇文章寫關于具體url采集信息的過程。
相關文章
老生常談php中傳統(tǒng)驗證與thinkphp框架(必看篇)
下面小編就為大家?guī)硪黄仙U刾hp中傳統(tǒng)驗證與thinkphp框架(必看篇)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-06-06

