使用Python設(shè)置tmpfs來加速項(xiàng)目的教程
對(duì)我當(dāng)前工程進(jìn)行全部測(cè)試需要花費(fèi)不少時(shí)間。既然有 26 GB 空閑內(nèi)存,為何不讓其發(fā)揮余熱呢? tmpfs 可以通過把文件系統(tǒng)保存在大內(nèi)存中來加速測(cè)試的執(zhí)行效率。
但優(yōu)點(diǎn)也是缺點(diǎn),tmpfs 只把結(jié)果保存在內(nèi)存中,所以你必須自己編寫腳本來把結(jié)果回寫到磁盤上進(jìn)行保留。而且這些腳本必須良好書寫和執(zhí)行,否則就要失去部分或全部的工作成果了。
一種常見的方法是直接在tmpfs文件夾中工作,然后把工作成果備份到磁盤上的一個(gè)文件夾中。當(dāng)您的機(jī)器啟動(dòng)時(shí)你從那個(gè)備份文件夾恢復(fù)tmpfs文件夾。啟動(dòng)之后用cron同步tmpfs文件夾和磁盤文件夾。
我發(fā)現(xiàn)這個(gè)設(shè)置有點(diǎn)復(fù)雜容易出錯(cuò)。在啟動(dòng)的時(shí)候,或者對(duì)于crom,我從沒有真正的相信。現(xiàn)在我用一種簡(jiǎn)單得多的設(shè)置,根本不用cron。
在我的機(jī)器上運(yùn)行一個(gè)單項(xiàng)測(cè)試,使用IDE并發(fā)布于web服務(wù)器,其性能通常是合理的,只有運(yùn)行全部測(cè)試需要許多時(shí)間。
我發(fā)現(xiàn)最佳之處是在磁盤上設(shè)置一個(gè)workspace,與/dev/shmand目錄下運(yùn)行所有測(cè)試的tmpfs同步。這或多或少使我的設(shè)置無需改變,并消除了可能松散的工作,這些僅僅是因?yàn)槲以谡_設(shè)置方面太垃圾了。
性能提升的結(jié)果是合理的:
$ nosetests && run_tests.py ........................................................................................................................................................................................................................................................ ---------------------------------------------------------------------- Ran 248 tests in 107.070s OK ........................................................................................................................................................................................................................................................ ---------------------------------------------------------------------- Ran 248 tests in 19.423s OK
現(xiàn)在比原來提高了 5 倍速度。
使用 python 來進(jìn)行設(shè)置非常簡(jiǎn)單:
#!/bin/bash -e
WORK=src/py
LOG=$(pwd)/test.log
TARGET=$(hg root)
SHADOW=/dev/shm/shadow/$TARGET
date > $LOG
mkdir -p $SHADOW
cd $SHADOW
rsync --update --delete --exclude=".*" --exclude=ENV --archive $TARGET ./..
if [ ! -d ENV ]
then
virtualenv ENV
fi
. ENV/bin/activate
cd $WORK
python setup.py develop >> $LOG
nosetests $* | tee -a $LOG
exit ${PIPESTATUS[0]}
我只要重復(fù)同步到/dev/shm目錄,設(shè)置測(cè)試環(huán)境(virtualenv and python setup.PY)和運(yùn)行測(cè)試(nosetests)。
在tmpfs文件夾里仍可用命令行運(yùn)行單個(gè)測(cè)試。也可以把這個(gè)從你的IDE中踢走,但你會(huì)失去你的測(cè)試運(yùn)行和調(diào)試的能力。如我之前所說,我現(xiàn)在不需要這些。
我希望我對(duì)tmpfs的這個(gè)變通使用能幫助你建立一個(gè)更快速的開發(fā)環(huán)境,而無須遭受所有的腳本麻煩。
相關(guān)文章
python區(qū)塊鏈簡(jiǎn)易版交易實(shí)現(xiàn)示例
這篇文章主要為大家介紹了python區(qū)塊鏈簡(jiǎn)易版交易實(shí)現(xiàn)示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05
淺析對(duì)torch.unsqueeze()函數(shù)理解
torch.unsqueeze()函數(shù)起到升維的作用,dim等于幾表示在第幾維度加一,這篇文章主要介紹了對(duì)torch.unsqueeze()函數(shù)理解深度解析,感興趣的朋友跟隨小編一起看看吧2024-06-06
python 實(shí)現(xiàn)百度網(wǎng)盤非會(huì)員上傳超過500個(gè)文件的方法
這篇文章主要介紹了python 實(shí)現(xiàn)百度網(wǎng)盤非會(huì)員上傳超過500個(gè)文件的方法,幫助大家更好的利用python解決問題,感興趣的朋友可以了解下2021-01-01
Python3多目標(biāo)賦值及共享引用注意事項(xiàng)
這篇文章主要介紹了Python3多目標(biāo)賦值及共享引用注意事項(xiàng),本文通過實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-05-05
Python如何用str.format()批量生成網(wǎng)址(豆瓣讀書為例)
這篇文章主要介紹了Python如何用str.format()批量生成網(wǎng)址(豆瓣讀書為例),文中通過示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-09-09

