最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python多線程分塊讀取文件

 更新時(shí)間:2019年08月29日 09:57:31   作者:美如畫是我  
這篇文章主要為大家詳細(xì)介紹了python多線程分塊讀取文件,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下

本文實(shí)例為大家分享了python多線程分塊讀取文件的具體代碼,供大家參考,具體內(nèi)容如下

# _*_coding:utf-8_*_
import time, threading, ConfigParser
 
'''
Reader類,繼承threading.Thread
@__init__方法初始化
@run方法實(shí)現(xiàn)了讀文件的操作
'''
class Reader(threading.Thread):
  def __init__(self, file_name, start_pos, end_pos):
    super(Reader, self).__init__()
    self.file_name = file_name
    self.start_pos = start_pos
    self.end_pos = end_pos
 
  def run(self):
    fd = open(self.file_name, 'r')
    '''
    該if塊主要判斷分塊后的文件塊的首位置是不是行首,
    是行首的話,不做處理
    否則,將文件塊的首位置定位到下一行的行首
    '''
    if self.start_pos != 0:
      fd.seek(self.start_pos-1)
      if fd.read(1) != '\n':
        line = fd.readline()
        self.start_pos = fd.tell()
    fd.seek(self.start_pos)
    '''
    對(duì)該文件塊進(jìn)行處理
    '''
    while (self.start_pos <= self.end_pos):
      line = fd.readline()
      '''
      do somthing
      '''
      self.start_pos = fd.tell()
 
'''
對(duì)文件進(jìn)行分塊,文件塊的數(shù)量和線程數(shù)量一致
'''
class Partition(object):
  def __init__(self, file_name, thread_num):
    self.file_name = file_name
    self.block_num = thread_num
 
  def part(self):
    fd = open(self.file_name, 'r')
    fd.seek(0, 2)
    pos_list = []
    file_size = fd.tell()
    block_size = file_size/self.block_num
    start_pos = 0
    for i in range(self.block_num):
      if i == self.block_num-1:
        end_pos = file_size-1
        pos_list.append((start_pos, end_pos))
        break
      end_pos = start_pos+block_size-1
      if end_pos >= file_size:
        end_pos = file_size-1
      if start_pos >= file_size:
        break
      pos_list.append((start_pos, end_pos))
      start_pos = end_pos+1
    fd.close()
    return pos_list
 
if __name__ == '__main__':
  '''
  讀取配置文件
  '''
  config = ConfigParser.ConfigParser()
  config.readfp(open('conf.ini'))
  #文件名
  file_name = config.get('info', 'fileName')
  #線程數(shù)量
  thread_num = int(config.get('info', 'threadNum'))
  #起始時(shí)間
  start_time = time.clock()
  p = Partition(file_name, thread_num)
  t = []
  pos = p.part()
  #生成線程
  for i in range(thread_num):
    t.append(Reader(file_name, *pos[i]))
  #開啟線程
  for i in range(thread_num):
    t[i].start()
  for i in range(thread_num):
    t[i].join()
  #結(jié)束時(shí)間
  end_time = time.clock()
  print "Cost time is %f" % (end_time - start_time)

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • python自動(dòng)重試第三方包retrying模塊的方法

    python自動(dòng)重試第三方包retrying模塊的方法

    retrying是一個(gè)python的重試包,可以用來自動(dòng)重試一些可能運(yùn)行失敗的程序段。這篇文章主要介紹了python自動(dòng)重試第三方包retrying的方法,需要的朋友參考下吧
    2018-04-04
  • Python中根據(jù)時(shí)間自動(dòng)創(chuàng)建文件夾的代碼實(shí)現(xiàn)

    Python中根據(jù)時(shí)間自動(dòng)創(chuàng)建文件夾的代碼實(shí)現(xiàn)

    這篇文章主要介紹了Python中根據(jù)時(shí)間自動(dòng)創(chuàng)建文件夾的代碼實(shí)現(xiàn),這樣的話給工作帶來極大的便利,方便桌面文件按時(shí)間存放,具體實(shí)例代碼跟隨小編一起看看吧
    2021-10-10
  • Python 實(shí)現(xiàn)局域網(wǎng)遠(yuǎn)程屏幕截圖案例

    Python 實(shí)現(xiàn)局域網(wǎng)遠(yuǎn)程屏幕截圖案例

    這篇文章主要介紹了Python 實(shí)現(xiàn)局域網(wǎng)遠(yuǎn)程屏幕截圖案例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2021-03-03
  • python實(shí)現(xiàn)區(qū)間合并的方法

    python實(shí)現(xiàn)區(qū)間合并的方法

    區(qū)間合并是指將重疊的區(qū)間合并為一個(gè)或多個(gè)不重疊的區(qū)間,本文主要介紹了python實(shí)現(xiàn)區(qū)間合并的方法,文中通過代碼介紹的很詳細(xì),感興趣的可以了解一下
    2024-02-02
  • 使用pycharm進(jìn)行繪圖,圖片無法顯示的解決

    使用pycharm進(jìn)行繪圖,圖片無法顯示的解決

    這篇文章主要介紹了使用pycharm進(jìn)行繪圖,圖片無法顯示的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-07-07
  • 基于Python中isfile函數(shù)和isdir函數(shù)使用詳解

    基于Python中isfile函數(shù)和isdir函數(shù)使用詳解

    今天小編就為大家分享一篇基于Python中isfile函數(shù)和isdir函數(shù)使用詳解,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧
    2019-11-11
  • 淺談python新式類和舊式類區(qū)別

    淺談python新式類和舊式類區(qū)別

    python的新式類是2.2版本引進(jìn)來的,我們可以將之前的類叫做經(jīng)典類或者舊式類。這篇文章主要介紹了淺談python新式類和舊式類區(qū)別,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2019-04-04
  • Python?Concurrent?Futures解鎖并行化編程的魔法示例

    Python?Concurrent?Futures解鎖并行化編程的魔法示例

    Python的concurrent.futures模塊為并行化編程提供了強(qiáng)大的工具,使得開發(fā)者能夠輕松地利用多核心和異步執(zhí)行的能力,本文將深入探討concurrent.futures的各個(gè)方面,從基礎(chǔ)概念到高級(jí)用法,為讀者提供全面的了解和實(shí)用的示例代碼
    2023-12-12
  • 解決python3 json數(shù)據(jù)包含中文的讀寫問題

    解決python3 json數(shù)據(jù)包含中文的讀寫問題

    這篇文章主要介紹了解決python3 json數(shù)據(jù)包含中文的讀寫問題,需要的朋友可以參考下
    2021-05-05
  • python中os庫(kù)的具體使用

    python中os庫(kù)的具體使用

    本文介紹了Python中os庫(kù)的一些常見功能,包括獲取和改變工作目錄、列出目錄內(nèi)容、創(chuàng)建和刪除目錄等,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2024-11-11

最新評(píng)論

大埔区| 会理县| 会东县| 延安市| 南丹县| 师宗县| 姜堰市| 象山县| 博兴县| 叙永县| 阿尔山市| 新丰县| 龙里县| 天气| 宁陕县| 乌鲁木齐县| 塔河县| 丹寨县| 仁布县| 桂平市| 乌兰察布市| 乡宁县| 高陵县| 常熟市| 邻水| 芜湖县| 无极县| 大方县| 平和县| 裕民县| 烟台市| 贡山| 丹棱县| 循化| 湘潭市| 绿春县| 扎兰屯市| 三都| 繁峙县| 永顺县| 稻城县|