最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

如何用Python合并lmdb文件

 更新時(shí)間:2022年05月20日 09:55:36   作者:SnailTyan  
這篇文章主要為大家詳細(xì)介紹了如何用Python合并lmdb文件,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下

由于Caffe使用的存儲(chǔ)圖像的數(shù)據(jù)庫(kù)是lmdb,因此有時(shí)候需要對(duì)lmdb文件進(jìn)行操作,本文主要講解如何用Python合并lmdb文件。沒(méi)有l(wèi)mdb支持的,需要用pip命令安裝。

pip install lmdb

代碼及注釋如下:

# coding=utf-8
# filename: merge_lmdb.py

import lmdb

# 將兩個(gè)lmdb文件合并成一個(gè)新的lmdb
def merge_lmdb(lmdb1, lmdb2, result_lmdb):

  print 'Merge start!'

  # env代表Environment, txn代表Transaction

  # 打開(kāi)lmdb文件,讀模式
  env_1 = lmdb.open(lmdb1)
  env_2 = lmdb.open(lmdb2)

  # 創(chuàng)建事務(wù)
  txn_1 = env_1.begin()
  txn_2 = env_2.begin()

  # 打開(kāi)數(shù)據(jù)庫(kù)
  database_1 = txn_1.cursor()
  database_2 = txn_2.cursor()

  # 打開(kāi)lmdb文件,寫(xiě)模式,
  env_3 = lmdb.open(result_lmdb, map_size=int(1e12))
  txn_3 = env_3.begin(write=True)

  count = 0
  # 遍歷數(shù)據(jù)庫(kù)
  for (key, value) in database_1:
    # 將數(shù)據(jù)放到結(jié)果數(shù)據(jù)庫(kù)事務(wù)中
    txn_3.put(key, value)
    count++
    if(count % 1000 == 0):
      # 將數(shù)據(jù)寫(xiě)入數(shù)據(jù)庫(kù),必須的,否則數(shù)據(jù)不會(huì)寫(xiě)入到數(shù)據(jù)庫(kù)中
      txn_3.commit()
      count = 0
      txn_3 = env_3.begin(write=True)

  if(count % 1000 != 0):
    txn_3.commit()
    count = 0
    txn_3 = env_3.begin(write=True)

  for (key, value) in database_2:
    txn_3.put(key, value)
    if(count % 1000 == 0):
      txn_3.commit()
      count = 0
      txn_3 = env_3.begin(write=True)

  if(count % 1000 != 0):
    txn_3.commit()
    count = 0
    txn_3 = env_3.begin(write=True)

  # 關(guān)閉lmdb
  env_1.close()
  env_2.close()
  env_3.close()

  print 'Merge success!'

  # 輸出結(jié)果lmdb的狀態(tài)信息,可以看到數(shù)據(jù)是否合并成功
  print env_3.stat()

def main():
  fr = open('lmdb.txt')
  # lmdb1的目錄
  lmdb1 = fr.readline().strip()
  # lmdb2的目錄
  lmdb2 = fr.readline().strip()
  # result lmdb的目錄
  result_lmdb = fr.readline().strip()
  fr.close()
  merge_lmdb(lmdb1, lmdb2, result_lmdb)

if __name__ == '__main__':
  main()

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • Python Django教程之模板的使用

    Python Django教程之模板的使用

    模板是 Django MVT 結(jié)構(gòu)的第三個(gè)也是最重要的部分。Django中的模板基本上是用HTML,CSS和Javascript編寫(xiě)在.html文件中的。本文將通過(guò)實(shí)例詳細(xì)聊聊Django模板的使用,感興趣的可以
    2022-10-10
  • python中的os.path.join使用方法詳解

    python中的os.path.join使用方法詳解

    這篇文章主要介紹了python中的os.path.join使用方法詳解,os.path.join用于將多個(gè)路徑拼接為一個(gè)完整路徑,經(jīng)常使用,但沒(méi)了解過(guò)細(xì)節(jié),直到今天遇到一個(gè)令人疑惑的問(wèn)題,最后發(fā)現(xiàn)是os.path.join的問(wèn)題,借此機(jī)會(huì),記錄下os.path.join的用法,需要的朋友可以參考下
    2023-11-11
  • Python字符串模糊匹配工具TheFuzz的用法詳解

    Python字符串模糊匹配工具TheFuzz的用法詳解

    在處理文本數(shù)據(jù)時(shí),常常需要進(jìn)行模糊字符串匹配來(lái)找到相似的字符串,Python的TheFuzz庫(kù)提供了強(qiáng)大的方法用于解決這類問(wèn)題,本文將深入介紹TheFuzz庫(kù),探討其基本概念、常用方法和示例代碼,需要的朋友可以參考下
    2023-12-12
  • flask post獲取前端請(qǐng)求參數(shù)的三種方式總結(jié)

    flask post獲取前端請(qǐng)求參數(shù)的三種方式總結(jié)

    這篇文章主要介紹了flask post獲取前端請(qǐng)求參數(shù)的三種方式總結(jié),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2022-12-12
  • Python錯(cuò)誤提示:[Errno 24] Too many open files的分析與解決

    Python錯(cuò)誤提示:[Errno 24] Too many open files的分析與解決

    這篇文章主要給大家介紹了Python中出現(xiàn)錯(cuò)誤提示:[Errno 24] Too many open files的分析與解決,需要的朋友可以參考借鑒,下面來(lái)一起看看吧。
    2017-02-02
  • Python3實(shí)現(xiàn)的爬蟲(chóng)爬取數(shù)據(jù)并存入mysql數(shù)據(jù)庫(kù)操作示例

    Python3實(shí)現(xiàn)的爬蟲(chóng)爬取數(shù)據(jù)并存入mysql數(shù)據(jù)庫(kù)操作示例

    這篇文章主要介紹了Python3實(shí)現(xiàn)的爬蟲(chóng)爬取數(shù)據(jù)并存入mysql數(shù)據(jù)庫(kù)操作,涉及Python正則爬取數(shù)據(jù)及針對(duì)mysql數(shù)據(jù)庫(kù)的存儲(chǔ)操作相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下
    2018-06-06
  • Python中處理NaN值的技巧分享

    Python中處理NaN值的技巧分享

    在數(shù)據(jù)科學(xué)和數(shù)據(jù)分析領(lǐng)域,NaN(Not a Number)是一個(gè)常見(jiàn)的概念,它表示一個(gè)缺失或未定義的數(shù)值,在 Python 中,尤其是在使用pandas庫(kù)處理數(shù)據(jù)時(shí),NaN 值的處理尤為重要,本文給大家介紹了Python中處理NaN值的技巧,需要的朋友可以參考下
    2024-12-12
  • python實(shí)現(xiàn)發(fā)送郵件及附件功能

    python實(shí)現(xiàn)發(fā)送郵件及附件功能

    這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)發(fā)送郵件及附件功能,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2017-05-05
  • python flask自定義404錯(cuò)誤頁(yè)面方式

    python flask自定義404錯(cuò)誤頁(yè)面方式

    這篇文章主要介紹了python flask自定義404錯(cuò)誤頁(yè)面方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2022-12-12
  • Python API len函數(shù)操作過(guò)程解析

    Python API len函數(shù)操作過(guò)程解析

    這篇文章主要介紹了Python API len函數(shù)操作過(guò)程解析,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2020-03-03

最新評(píng)論

专栏| 曲靖市| 正蓝旗| 太原市| 新龙县| 华宁县| 元朗区| 敦化市| 台东市| 合江县| 宜黄县| 外汇| 天门市| 天长市| 从江县| 鄄城县| 和平县| 昌江| 青田县| 高邮市| 周至县| 若尔盖县| 滁州市| 吉木萨尔县| 定州市| 获嘉县| 堆龙德庆县| 昭通市| 迭部县| 唐河县| 邹城市| 高雄县| 新昌县| 双流县| 博爱县| 阿拉尔市| 新晃| 榕江县| 临颍县| 文安县| 南阳市|