最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python3實現(xiàn)將本地JSON大數(shù)據(jù)文件寫入MySQL數(shù)據(jù)庫的方法

 更新時間:2018年06月13日 09:40:19   作者:layman2016  
這篇文章主要介紹了Python3實現(xiàn)將本地JSON大數(shù)據(jù)文件寫入MySQL數(shù)據(jù)庫的方法,涉及Python針對json大數(shù)據(jù)文件的逐行讀取、mysql數(shù)據(jù)庫寫入等相關(guān)操作技巧,需要的朋友可以參考下

本文實例講述了Python3實現(xiàn)將本地JSON大數(shù)據(jù)文件寫入MySQL數(shù)據(jù)庫的方法。分享給大家供大家參考,具體如下:

最近導(dǎo)師給了一個yelp上的評論數(shù)據(jù),數(shù)據(jù)量達到3.55個G,如果進行分析時直接使用本地文件,選擇python來分析,那么效率是非常低的;另一方面使用SQL來儲存文本文件最為安全,之前使用CSV,txt存儲的文本文件最后莫名其妙地出現(xiàn)一些奇怪字符,導(dǎo)致讀取數(shù)據(jù)分割時出現(xiàn)錯亂。下面給出一個簡單的代碼,將本地JSON文件內(nèi)容存入數(shù)據(jù)庫。

說明:python版本為3.5,使用第三方庫為pymysql。因為數(shù)據(jù)量比較大,不能一次性讀取到內(nèi)存(否則內(nèi)存報錯),這里使用逐行讀取的方式。數(shù)據(jù)庫先創(chuàng)建后再使用以下代碼;

import json
import pymysql
# 讀取review數(shù)據(jù),并寫入數(shù)據(jù)庫
# 導(dǎo)入數(shù)據(jù)庫成功,總共4736897條記錄
def prem(db):
  cursor = db.cursor()
  cursor.execute("SELECT VERSION()")
  data = cursor.fetchone()
  print("Database version : %s " % data) # 結(jié)果表明已經(jīng)連接成功
  cursor.execute("DROP TABLE IF EXISTS review") # 習(xí)慣性
  sql = """CREATE TABLE review (
       review_id VARCHAR(100),
       user_id VARCHAR(100),
       business_id VARCHAR(200),
       stars INT,
       text VARCHAR(10000) NOT NULL,
       useful INT,
       funny INT,
       cool INT)"""
  cursor.execute(sql) # 根據(jù)需要創(chuàng)建一個表格
def reviewdata_insert(db):
  with open('E:/data/yelp_data/dataset/review.json', encoding='utf-8') as f:
    i = 0
    while True:
      i += 1
      print(u'正在載入第%s行......' % i)
      try:
        lines = f.readline() # 使用逐行讀取的方法
        review_text = json.loads(lines) # 解析每一行數(shù)據(jù)
        result = []
        result.append((review_text['review_id'], review_text['user_id'],      review_text['business_id'],review_text['stars'], review_text['text'], review_text['useful'],
              review_text['funny'], review_text['cool']))
        print(result)
        inesrt_re = "insert into review(review_id, user_id, business_id, stars, text, useful,      funny, cool) values (%s, %s, %s, %s,%s, %s,%s, %s)"
        cursor = db.cursor()
        cursor.executemany(inesrt_re, result)
        db.commit()
      except Exception as e:
        db.rollback()
        print(str(e))
        break
if __name__ == "__main__": # 起到一個初始化或者調(diào)用函數(shù)的作用
  db = pymysql.connect("localhost", "root", "password(你的密碼)", "數(shù)據(jù)庫名稱", charset='utf8')
  cursor = db.cursor()
  prem(db)
  reviewdata_insert(db)
  cursor.close()

PS:這里再為大家推薦幾款比較實用的json在線工具供大家參考使用:

在線JSON代碼檢驗、檢驗、美化、格式化工具:
http://tools.jb51.net/code/json

JSON在線格式化工具:
http://tools.jb51.net/code/jsonformat

在線XML/JSON互相轉(zhuǎn)換工具:
http://tools.jb51.net/code/xmljson

json代碼在線格式化/美化/壓縮/編輯/轉(zhuǎn)換工具:
http://tools.jb51.net/code/jsoncodeformat

在線json壓縮/轉(zhuǎn)義工具:
http://tools.jb51.net/code/json_yasuo_trans

更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python操作json技巧總結(jié)》、《Python+MySQL數(shù)據(jù)庫程序設(shè)計入門教程》、《Python常見數(shù)據(jù)庫操作技巧匯總》、《Python數(shù)學(xué)運算技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進階經(jīng)典教程》及《Python文件與目錄操作技巧匯總

希望本文所述對大家Python程序設(shè)計有所幫助。

相關(guān)文章

  • python實現(xiàn)手機銷售管理系統(tǒng)

    python實現(xiàn)手機銷售管理系統(tǒng)

    這篇文章主要為大家詳細介紹了python實現(xiàn)手機銷售管理系統(tǒng),具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2019-03-03
  • 利用Python實現(xiàn)學(xué)生信息管理系統(tǒng)的完整實例

    利用Python實現(xiàn)學(xué)生信息管理系統(tǒng)的完整實例

    這篇文章主要給大家介紹了關(guān)于如何利用Python實現(xiàn)學(xué)生信息管理系統(tǒng)的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-12-12
  • 在python win系統(tǒng)下 打開TXT文件的實例

    在python win系統(tǒng)下 打開TXT文件的實例

    下面小編就為大家分享一篇在python win系統(tǒng)下 打開TXT文件的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • python中g(shù)lobal用法實例分析

    python中g(shù)lobal用法實例分析

    這篇文章主要介紹了python中g(shù)lobal用法,較為詳細的分析了global的功能并實例演示了相應(yīng)的使用技巧,需要的朋友可以參考下
    2015-04-04
  • python中進程間通信詳細介紹

    python中進程間通信詳細介紹

    大家好,本篇文章主要講的是python中進程間通信詳細介紹,感興趣的同學(xué)趕快來看一看吧,對你有幫助的話記得收藏一下,方便下次瀏覽
    2021-12-12
  • 一篇超級全面的Python功能圖譜(推薦)

    一篇超級全面的Python功能圖譜(推薦)

    Python作為一種廣受歡迎的高級編程語言,不僅在基本語法上易于學(xué)習(xí),還擁有強大的標(biāo)準(zhǔn)庫和活躍的開發(fā)社區(qū),本文詳細介紹了Python從基礎(chǔ)語法到高級應(yīng)用的全面功能,并通過實際案例和代碼示例展示了其在科學(xué)計算、Web開發(fā)、機器學(xué)習(xí)等多個領(lǐng)域的應(yīng)用,需要的朋友可以參考下
    2024-09-09
  • Python實現(xiàn)統(tǒng)計圖像連通域的示例詳解

    Python實現(xiàn)統(tǒng)計圖像連通域的示例詳解

    這篇文章主要為大家詳細介紹了如何利用Python實現(xiàn)統(tǒng)計圖像連通域的功能,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起了解一下
    2023-04-04
  • Python?PDF轉(zhuǎn)化wolrd代碼的寫法小結(jié)

    Python?PDF轉(zhuǎn)化wolrd代碼的寫法小結(jié)

    將PDF文件轉(zhuǎn)換為Word文檔的過程通常需要使用一些外部庫來實現(xiàn),因為Python本身并不直接支持這種轉(zhuǎn)換,這篇文章主要介紹了Python?PDF轉(zhuǎn)化wolrd代碼的寫法小結(jié),需要的朋友可以參考下
    2024-06-06
  • python利用opencv如何實現(xiàn)答題卡自動判卷

    python利用opencv如何實現(xiàn)答題卡自動判卷

    由于工作需要,最近在研究關(guān)于如何通過程序識別答題卡的客觀題的答案,所以下面這篇文章主要介紹了python利用opencv如何實現(xiàn)答題卡自動判卷的相關(guān)資料,需要的朋友可以參考下
    2021-08-08
  • Python中Wxpython實現(xiàn)剪切、復(fù)制、粘貼和文件打開示例

    Python中Wxpython實現(xiàn)剪切、復(fù)制、粘貼和文件打開示例

    我們在Python開發(fā)中中,可以使用WxPython庫來創(chuàng)建GUI應(yīng)用程序,并實現(xiàn)剪切、復(fù)制、粘貼和文件打開功能,本文就來介紹一下,感興趣的可以了解一下
    2024-03-03

最新評論

皋兰县| 兴城市| 德化县| 岚皋县| 庆安县| 临朐县| 松潘县| 黑水县| 康马县| 梅河口市| 靖西县| 固始县| 昭苏县| 岳西县| 巩义市| 安达市| 德化县| 正镶白旗| 游戏| 瓦房店市| 巴楚县| 南川市| 讷河市| 都匀市| 黎川县| 庆安县| 石嘴山市| 临湘市| 永定县| 上栗县| 隆德县| 德清县| 赤峰市| 霍州市| 博湖县| 连城县| 重庆市| 平武县| 云霄县| 阿图什市| 长乐市|