用python爬取租房網(wǎng)站信息的代碼
更新時間:2018年12月14日 10:48:04 作者:Struggler09
今天小編就為大家分享一篇關于用python爬取租房網(wǎng)站信息的代碼,小編覺得內容挺不錯的,現(xiàn)在分享給大家,具有很好的參考價值,需要的朋友一起跟隨小編來看看吧
自己在剛學習python時寫的,中途遇到很多問題,查了很多資料,下面就是我爬取租房信息的代碼:
鏈家的房租網(wǎng)站
兩個導入的包
1.requests 用來過去網(wǎng)頁內容
2.BeautifulSoup
import time
import pymssql
import requests
from bs4 import BeautifulSoup
# https://wh.lianjia.com/zufang/
#獲取url中下面的內容
def get_page(url):
responce = requests.get(url)
soup = BeautifulSoup(responce.text,'lxml')
return soup
#封裝成函數(shù),作用是獲取列表下的所有租房頁面的鏈接,返回一個鏈接列表
def get_links(url):
responce = requests.get(url)
soup = BeautifulSoup(responce.text,'lxml')
link_div = soup.find_all('div',class_ = 'pic-panel')
links = [div.a.get('href') for div in link_div]
return links
#收集一個房子的信息
def get_house_info(house_url):
soup = get_page(house_url)
price = soup.find('span',class_='total').text
unit = soup.find('span',class_= 'unit').text[1:-1]
area = soup.find('p', class_ = 'lf').text
house_info= soup.find_all('p',class_ = 'lf')
area = house_info[0].text[3:] #字符串切片工具
layout = house_info[1].text[5:]
info={
'價格':price,
'單位':unit,
'面積':area,
'戶型':layout
}
return info
#鏈接數(shù)據(jù)庫
server="192.168.xx.xx" #換成自己的服務器信息
user="liujiepeng"
password="xxxxx" #自己的數(shù)據(jù)庫用戶名和密碼
conn=pymssql.connect(server,user,password,database="house")
def insert(conn,house):
#sql_values = values.format(house['價格'],house['單位'],house['面積'],
#house['戶型'])
sql = "insert into [house].dbo.lianjia(price,unit,area,layout)values('%s','%s','%s','%s')"%(house["價格"],house["單位"],house["面積"],house["戶型"])
print(sql)
cursor = conn.cursor() #游標,開拓新的窗口
#cursor1 = conn.cursor()
cursor.execute(sql) #執(zhí)行sql語句
conn.commit() #提交 ,更新sql 語句
links = get_links('https://wh.lianjia.com/zufang/')
count = 1
for link in links:
#time.sleep(2)
print('獲取一個數(shù)據(jù)成功')
house = get_house_info(link)
insert(conn,house)
print("第%s個數(shù)據(jù),存入數(shù)據(jù)庫成功!"%(count))
count = count+1
#print(house["價格"],end='\r')
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,謝謝大家對腳本之家的支持。如果你想了解更多相關內容請查看下面相關鏈接
相關文章
Python使用Pandas對csv文件進行數(shù)據(jù)處理的方法
這篇文章主要介紹了Python使用Pandas對csv文件進行數(shù)據(jù)處理的方法,本文通過實例代碼相結合給大家介紹的非常詳細,具有一定的參考借鑒價值,需要的朋友可以參考下2019-08-08
Python MySQLdb 執(zhí)行sql語句時的參數(shù)傳遞方式
這篇文章主要介紹了Python MySQLdb 執(zhí)行sql語句時的參數(shù)傳遞方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03
Python腳本實現(xiàn)Zabbix多行日志監(jiān)控過程解析
這篇文章主要介紹了Python腳本實現(xiàn)Zabbix多行日志監(jiān)控過程解析,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-08-08

