最近研究了一下并行讀入數(shù)據(jù)的方式，現(xiàn)在將自己的理解整理如下，理解比較淺，僅供參考。

并行讀入數(shù)據(jù)主要分

1. 創(chuàng)建文件名列表

2. 創(chuàng)建文件名隊(duì)列

3. 創(chuàng)建Reader和Decoder

4. 創(chuàng)建樣例列表

5. 創(chuàng)建批列表（讀取時(shí)可要可不要，一般情況下樣例列表可以執(zhí)行讀取數(shù)據(jù)操作，但是在實(shí)際訓(xùn)練的時(shí)候往往需要批列表來(lái)分批進(jìn)行數(shù)據(jù)的組織，提?。?/p>

其具體流程如下：

一、 文件名列表：

文件名列表是一個(gè)list類型的數(shù)據(jù)，里面的內(nèi)容是需要用的數(shù)據(jù)文件名?？梢允褂贸Ｒ?guī)的python語(yǔ)法入：[file1, file2]。也可以使用tf.train.match_filename_once方法通過(guò)匹配輸入。

二、文件名隊(duì)列

一般使用tf.train.string_input_producer的方法創(chuàng)建文件名隊(duì)列。該方法傳入的是一個(gè)文件名列表，輸出的是一個(gè)先進(jìn)先出隊(duì)列。在該方法中存在兩個(gè)重要參數(shù)，num_epochs和shuffle。num_epochs表示列表遍歷的次數(shù)，主要是由于有時(shí)候訓(xùn)練模型需要反復(fù)的遍歷數(shù)據(jù)集便于更新模型參數(shù)，默認(rèn)情況下是None（循環(huán)遍歷）。shuffle表示是否隨機(jī)遍歷，默認(rèn)情況下是true，表示數(shù)據(jù)會(huì)隨機(jī)輸入隊(duì)列，當(dāng)想順序讀入數(shù)據(jù)時(shí)shuffle設(shè)置為false。至于其他的capacity表示列表的容量，shared_name表示共享時(shí)的名字。

三、Reader和Decoder

Reader的功能是讀取數(shù)據(jù)記錄，Decoder的功能是將數(shù)據(jù)的記錄轉(zhuǎn)化為張量格式。在使用時(shí)需要先創(chuàng)建輸入數(shù)據(jù)文件對(duì)應(yīng)的Reader，然后從文件名隊(duì)列中取出文件名，在調(diào)用Reader.read的方法返回一個(gè)類似于（輸入文件名，數(shù)據(jù)記錄）的元組。最后使用Decoder方法將每一列數(shù)據(jù)都轉(zhuǎn)化為張量的形式。

四、批隊(duì)列

批隊(duì)列可以在構(gòu)建圖之前事先構(gòu)建好，樣例隊(duì)列需要在圖中直接產(chǎn)生不用直接預(yù)定義。所以先介紹批隊(duì)列的構(gòu)建方式。批隊(duì)列主要是樣例打包聚集成批數(shù)據(jù)，能供模型訓(xùn)練使用。一般是使用tf.train.shuffle_batch和tf.train.batch的方法構(gòu)建?？梢钥刂婆拇笮。ㄒ淮涡宰x入的 數(shù)據(jù)大?。?，線程個(gè)數(shù)，然后在圖中直接調(diào)用。

五、樣例隊(duì)列

樣例隊(duì)列的創(chuàng)建方式是隱式的，一般在圖中為了計(jì)算任務(wù)順利的輸入數(shù)據(jù)，我們一般使用tf.train.start_queue_runners方法啟動(dòng)所有的入隊(duì)操作所需的線程，此時(shí)會(huì)自動(dòng)執(zhí)行所有的文件名入隊(duì)操作和文件名隊(duì)列的操作，執(zhí)行樣例隊(duì)列入隊(duì)和樣例隊(duì)列的操作。這些都是在后臺(tái)產(chǎn)生的。

六、線程協(xié)調(diào)器

并行讀取數(shù)據(jù)離不開(kāi)多線程操作，多線程操作離不開(kāi)線程調(diào)節(jié)器。tensorflow使用tf.train.Coordinatior方法創(chuàng)建管理多線程生命周期的調(diào)節(jié)器。調(diào)節(jié)器的工作原理比較簡(jiǎn)單，它監(jiān)控Tensoflow后臺(tái)的所有線程，當(dāng)某一個(gè)線程出現(xiàn)異常時(shí)，它的should_stop方法返回true，最后調(diào)用request_stop終止所有的線程。但是要注意我們?cè)谑褂镁€程調(diào)節(jié)器之前一定要調(diào)用tf.local_variables_initializer方法進(jìn)行初始化。

七、讀入數(shù)據(jù)類型

tensorflow讀入的數(shù)據(jù)類型可以使csv，TFRecord和自由格式文件。CSV的讀取直接調(diào)用tf.TextLineReader構(gòu)建Reader，再調(diào)用tf.decoder_csv的方法對(duì)文件進(jìn)行解碼變?yōu)閺埩俊?/p>

TFRecoder是tensorflow標(biāo)準(zhǔn)的輸入格式，它是通過(guò)protocolBuffer構(gòu)建的存儲(chǔ)數(shù)據(jù)記錄的結(jié)構(gòu)。該數(shù)據(jù)結(jié)構(gòu)分明，一個(gè)樣例中包含一組特征Features，一個(gè)Features又包含多個(gè)特征向量feature。其在讀取的時(shí)候主要使用tf.TFRecoderReader的方法構(gòu)建Reader，在使用read的方法讀出元組。接著對(duì)元組中的value采用tf.parse_single_example()方法進(jìn)行解析。再解析的時(shí)候需要傳入features參數(shù)，該參數(shù)要和構(gòu)造該文件時(shí)輸入的字典型變量保持一致（key,value）。key和輸入的key一致，value是一個(gè)表示該key對(duì)應(yīng)的維度和類型的定西，用tf.FixedLenFeature函數(shù)構(gòu)造，該函數(shù)傳入?yún)?shù)表示特征形狀和特征值的類型。具體如下：

自由格式是指用戶自定義的二進(jìn)制文件，他存儲(chǔ)的對(duì)象是字符串，每條記錄都是一個(gè)固定長(zhǎng)度的字節(jié)塊。再讀入的時(shí)候首先要使用tf.FixedLengthRecoderReader的方法讀取對(duì)應(yīng)的二進(jìn)制文件，然后使用tf.decode_raw的方法將字符串轉(zhuǎn)化為uint8類型的張量。

八、整體代碼

具體的相關(guān)碼如下：

以上這篇tensorflow之并行讀入數(shù)據(jù)詳解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評(píng)論