Python多進程方式抓取基金網(wǎng)站內(nèi)容的方法分析

更新時間：2019年06月03日 12:02:12 作者：學(xué)習(xí)筆記666

這篇文章主要介紹了Python多進程方式抓取基金網(wǎng)站內(nèi)容的方法,結(jié)合實例形式分析了Python多進程抓取網(wǎng)站內(nèi)容相關(guān)實現(xiàn)技巧與操作注意事項,需要的朋友可以參考下

本文實例講述了Python多進程方式抓取基金網(wǎng)站內(nèi)容的方法。分享給大家供大家參考，具體如下：

在前面這篇//www.fzitv.net/article/162418.htm我們已經(jīng)簡單了解了”python的多進程”，現(xiàn)在我們需要把抓取基金網(wǎng)站(28頁)內(nèi)容寫成多進程的方式。

因為進程也不是越多越好，我們計劃分3個進程執(zhí)行。意思就是：把總共要抓取的28頁分成三部分。

怎么分呢？

# 初始range
r = range(1,29)
# 步長
step = 10
myList = [r[x:x+step] for x in range(0,len(r),step)]
print(myList) # [range(1, 11), range(11, 21), range(21, 29)]

看上面代碼，我們就把1~29分成了三部分，list里三個range。

2、還記得我們抓取基金網(wǎng)站內(nèi)容的getData()函數(shù)？

def getData(start, end):
  for x in range(start, end+1):
    # 去第幾頁 輸入框
    tonum = driver.find_element_by_id("tonum")
    # 去第幾頁 提交按鈕
    jumpBtn = driver.find_element_by_id("btn_jump")
    tonum.clear() # 第x頁 輸入框
    tonum.send_keys(str(x)) # 去第x頁
    jumpBtn.click() # 點擊按鈕
    WebDriverWait(driver, 20).until(lambda driver: driver.find_element_by_id("pager") \
                    .find_element_by_xpath("span[@value={0} and @class!='end page']".format(x)) \
                    .get_attribute("class").find("at") != -1)
    # 保存抓取到的html內(nèi)容
    # 保存到html目錄下
    with open("./htmls/{0}.txt".format(x),"wb") as f:
      f.write(driver.find_element_by_id("tableDiv").get_attribute("innerHTML").encode("utf8"))
      f.close()

函數(shù)是有2個參數(shù)：一個開始頁碼，一個結(jié)束頁碼，也就是從第start頁，到第end頁。

這2個參數(shù)實際上也是range。

改造getData()函數(shù)如下（參數(shù)不同了）：

# 循環(huán)抓取網(wǎng)頁內(nèi)容的函數(shù)
def getData(myrange):
  for x in myrange:
    # 去第幾頁 輸入框
    tonum = driver.find_element_by_id("tonum")
    # 去第幾頁 提交按鈕
    jumpBtn = driver.find_element_by_id("btn_jump")
    tonum.clear() # 第x頁 輸入框
    tonum.send_keys(str(x)) # 去第x頁
    jumpBtn.click() # 點擊按鈕
    WebDriverWait(driver, 20).until(lambda driver: driver.find_element_by_id("pager") \
                    .find_element_by_xpath("span[@value={0} and @class!='end page']".format(x)) \
                    .get_attribute("class").find("at") != -1)
    # 保存抓取到的html內(nèi)容
    # 保存到html目錄下
    with open("./htmls/{0}.txt".format(x),"wb") as f:
      f.write(driver.find_element_by_id("tableDiv").get_attribute("innerHTML").encode("utf8"))
      f.close()

3、創(chuàng)建進程，把target設(shè)置為上面的getData()：

# 初始range
r = range(1,int(total_page)+1)
# 步長
step = 10
myList = [r[x:x+step] for x in range(0,len(r),step)] # 把頁面分段
# 創(chuàng)建進程
processList = []
if __name__ == "__main__":
  for r in myList:
    p = Process(target=getData,args=(r,))
    processList.append(p)
  # 開始執(zhí)行進程
  for p in processList:
    p.start()

這樣就有三個進程分別抓取。

4、多進程抓取基金網(wǎng)站多頁內(nèi)容完全代碼：

# coding: utf-8
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions
from multiprocessing import Process
driver = webdriver.PhantomJS(executable_path=r"你phantomjs的可執(zhí)行文件路徑")
# 請求一個網(wǎng)址
driver.get("http://fund.eastmoney.com/fund.html")
page_text = driver.find_element_by_id("pager").find_element_by_xpath("span[@class='nv']").text
total_page = ''.join(filter(str.isdigit,page_text)) # 得到總共有多少頁
# 循環(huán)抓取網(wǎng)頁內(nèi)容的函數(shù)
def getData(myrange):
  for x in myrange:
    # 去第幾頁 輸入框
    tonum = driver.find_element_by_id("tonum")
    # 去第幾頁 提交按鈕
    jumpBtn = driver.find_element_by_id("btn_jump")
    tonum.clear() # 第x頁 輸入框
    tonum.send_keys(str(x)) # 去第x頁
    jumpBtn.click() # 點擊按鈕
    WebDriverWait(driver, 20).until(lambda driver: driver.find_element_by_id("pager") \
                    .find_element_by_xpath("span[@value={0} and @class!='end page']".format(x)) \
                    .get_attribute("class").find("at") != -1)
    # 保存抓取到的html內(nèi)容
    # 保存到html目錄下
    with open("./htmls/{0}.txt".format(x),"wb") as f:
      f.write(driver.find_element_by_id("tableDiv").get_attribute("innerHTML").encode("utf8"))
      f.close()
# 初始range
r = range(1,int(total_page)+1)
# 步長
step = 10
myList = [r[x:x+step] for x in range(0,len(r),step)] # 把頁面分段
# 創(chuàng)建進程
processList = []
if __name__ == "__main__":
  for r in myList:
    p = Process(target=getData,args=(r,))
    processList.append(p)
  # 開始執(zhí)行進程
  for p in processList:
    p.start()

更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題：《Python進程與線程操作技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進階經(jīng)典教程》、《Python+MySQL數(shù)據(jù)庫程序設(shè)計入門教程》及《Python常見數(shù)據(jù)庫操作技巧匯總》

希望本文所述對大家Python程序設(shè)計有所幫助。

您可能感興趣的文章: