python實(shí)現(xiàn)MD5進(jìn)行文件去重的示例代碼
前言
工作中偶爾會遇到文件去重的事情,收到一大堆文件,名稱各不相同,分析文件的時候發(fā)現(xiàn)有不少重復(fù)的文件,導(dǎo)致工作效率低下,那么,這里就寫了一個python腳本實(shí)現(xiàn)文件去重功能
工作原理
腳本會檢查你給出的文件路徑下的所有文件,然后計(jì)算每個文件的MD5值,并將其加入到一個列表中。
- 如果某文件的MD5值不在列表中,就認(rèn)定其是我們需要的文件,腳本會在桌面新建一個名為“去重結(jié)果”的文件夾,并將其復(fù)制到里面去。
- 如果某文件的MD5值在列表中,就認(rèn)定其不是我們需要的文件,不對其做任何處理。
- 代碼可以直接運(yùn)行,無需做任何修改(除了安裝可能缺少的庫文件)
代碼
import os
import shutil
import hashlib
# 對文件去重
# 計(jì)算每個文件的md5值,據(jù)此進(jìn)行去重
def only_one(test_path):
md5_list = []
count = 0
for current_folder, list_folders, files in os.walk(test_path):
for file in files:
file_path = current_folder + '\\' + file # 獲取每個文件的路徑
f = open(file_path, 'rb') # 開始計(jì)算每個文件的md5值
md5obj = hashlib.md5()
md5obj.update(f.read())
get_hash = md5obj.hexdigest()
f.close()
md5_value = str(get_hash).upper()
# 開始去重
if md5_value in md5_list: # 如果這個文件的md5值曾經(jīng)出現(xiàn)過,就不對它做任何處理
count += 1
print('\033[31m[-] 發(fā)現(xiàn)重復(fù)文件:\033[0m' + str(file))
else:
md5_list.append(md5_value) # 如果這個文件的md5值不存在列表中,就添加進(jìn)列表中
shutil.copy(file_path, path1)
print('\033[31m[-] 共發(fā)現(xiàn)重復(fù)文件:{}個\033[0m'.format(count))
if __name__ == '__main__':
print('\033[4;33m[+] 此腳本會檢查指定路徑下的所有文件,通過計(jì)算文件的MD5值進(jìn)行去重\033[0m')
print('\033[4;33m[+] 去重后的文件會復(fù)制到桌面新文件夾中,源文件不會丟失\033[0m')
path = input('\033[34m[+] 請輸入文件夾地址:\033[0m')
os.chdir(path)
# path1 用來存放所有的去重結(jié)果
desktop_path = os.path.join(os.path.expanduser("~"), 'Desktop') # 獲取桌面路徑
path1 = os.path.join(desktop_path, '去重結(jié)果')
os.makedirs(path1)
only_one(path)
print('\033[32m[-] 現(xiàn)有非重復(fù)文件共計(jì):{}個\033[0m'.format(len(os.listdir(path1))))

到此這篇關(guān)于python實(shí)現(xiàn)MD5進(jìn)行文件去重的示例代碼的文章就介紹到這了,更多相關(guān)python MD5文件去重內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python基于回溯法子集樹模板解決取物搭配問題實(shí)例
這篇文章主要介紹了Python基于回溯法子集樹模板解決取物搭配問題,簡單描述了搭配問題并結(jié)合實(shí)例形式分析了Python使用回溯法子集樹模板解決取物搭配問題的具體步驟與相關(guān)操作技巧,需要的朋友可以參考下2017-09-09
TensorFlow實(shí)現(xiàn)批量歸一化操作的示例
這篇文章主要介紹了TensorFlow實(shí)現(xiàn)批量歸一化操作的示例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-04-04
django restframework序列化字段校驗(yàn)規(guī)則
本文主要介紹了django restframework序列化字段校驗(yàn)規(guī)則,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-05-05
詳解Python中生成隨機(jī)數(shù)據(jù)的示例詳解
在日常工作編程中存在著各種隨機(jī)事件,同樣在編程中生成隨機(jī)數(shù)字的時候也是一樣。每當(dāng)在?Python?中生成隨機(jī)數(shù)據(jù)、字符串或數(shù)字時,最好至少大致了解這些數(shù)據(jù)是如何生成的。所以本文將詳細(xì)為大家講解一下Python是如何生成隨機(jī)數(shù)據(jù),需要的可以參考一下2022-04-04
PyTorch搭建ANN實(shí)現(xiàn)時間序列風(fēng)速預(yù)測
這篇文章主要為大家介紹了PyTorch搭建ANN實(shí)現(xiàn)時間序列風(fēng)速預(yù)測,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05
Python 中的多值傳遞、靈活參數(shù)與無名參數(shù)的使用技巧
Python 是一門高度抽象且易于使用的編程語言,函數(shù)作為其核心特性之一,具有非常強(qiáng)大的靈活性和可擴(kuò)展性,本篇文章將深入講解 Python 函數(shù)中的多值傳遞、靈活參數(shù)以及無名參數(shù)的使用技巧,讓你輕松解鎖 Python 函數(shù)的魔力,感興趣的朋友一起看看吧2025-04-04
python opencv角點(diǎn)檢測連線功能的實(shí)現(xiàn)代碼
這篇文章主要介紹了python opencv角點(diǎn)檢測連線功能的實(shí)現(xiàn)代碼,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-11-11
Python實(shí)現(xiàn)的個人所得稅計(jì)算器示例
這篇文章主要介紹了Python實(shí)現(xiàn)的個人所得稅計(jì)算器,涉及Python條件判斷與數(shù)值運(yùn)算相關(guān)操作技巧,需要的朋友可以參考下2018-06-06

