詳解如何使用pandas進行時間序列數(shù)據(jù)的周期轉(zhuǎn)換
時間序列數(shù)據(jù)是數(shù)據(jù)分析中經(jīng)常遇到的類型,為了更多的挖掘出數(shù)據(jù)內(nèi)部的信息,我們常常依據(jù)原始數(shù)據(jù)中的時間周期,將其轉(zhuǎn)換成不同跨度的周期,然后再看數(shù)據(jù)是否會在新的周期上產(chǎn)生新的特性。
下面以模擬的K線數(shù)據(jù)為例,演示如何使用pandas來進行周期轉(zhuǎn)換。
1. 創(chuàng)建測試數(shù)據(jù)
首先創(chuàng)建測試數(shù)據(jù),下面創(chuàng)建一天的K線數(shù)據(jù),數(shù)據(jù)的間隔為1分鐘(1min)。
import pandas as pd
import numpy as np
# 創(chuàng)建時間序列的列,時間間隔1分鐘
date_col = pd.date_range("2024-01-01", "2024-01-02", freq="1min")
data_len = len(date_col)
# 模擬的K線數(shù)據(jù)
df = pd.DataFrame(
np.random.randint(1, 10, size=(data_len, 5)),
columns=["open", "close", "high", "low", "volumn"],
)
df.insert(0, "begin_time", date_col)
df
其中各個字段的含義:open(開盤價),close(收盤價),high(最高價),low(最低價),volumn(成交量)。
2. 周期轉(zhuǎn)換和數(shù)據(jù)聚合
如果有股票或者類似交易的朋友都知道,K線的時間間隔是不固定的,不一定像上面的測試數(shù)據(jù)那樣間隔1分鐘,
一般根據(jù)自己的買賣頻率會查看不同時間間隔的K線。
但是采集數(shù)據(jù)時,一般不會去采集各種時間間隔的K線,我們可以根據(jù)1分鐘的K線,去轉(zhuǎn)換其他不同時間間隔的K線。
轉(zhuǎn)換的方法,就是使用pandas的resample函數(shù)。
通過resample周期轉(zhuǎn)換其實就是以一定的周期對數(shù)據(jù)進行groupby,所以,resample也像groupby一樣,需要對新周期中的數(shù)據(jù)進行聚合。
比如,下面的數(shù)據(jù)我們將1分鐘的K線轉(zhuǎn)換為5分鐘的K線。
df.resample("5min", on="begin_time").agg({
"open": "first",
"close": "last",
"high": "max",
"low": "min",
"volumn": "sum",
})

比如,原始數(shù)據(jù)每5個聚合成一個。
以前5個數(shù)據(jù)(2024-01-01 00:00:00~2024-01-01 00:04:00)為例。

open取第一個值,close取最后一個值,high取最大值,low取最小值,volumn取合計值。
除了上面的5分鐘的數(shù)據(jù),通過resample還可以聚合15分鐘的K線,1小時,4小時等等各種時間間隔的K線。
方法類似,這里不再一一贅述。
3. 周期中的缺失值
對于完整的數(shù)據(jù),就像上面那樣轉(zhuǎn)換即可,然而實際情況下的數(shù)據(jù),部分缺失的情況是很常見的,
特別是上面的1分鐘K線數(shù)據(jù),極有可能1分鐘沒有交易,出現(xiàn)缺失的情況,有可能連續(xù)5分鐘都沒有數(shù)據(jù)。
下面看看數(shù)據(jù)缺失時,resample轉(zhuǎn)換的情況。
先從上面的測試數(shù)據(jù)中取20個再進行一些刪減,構(gòu)造數(shù)據(jù)缺失的情況:
df_ = df.copy() df_ = df_.iloc[:20] df_ = df_.drop([3, 5, 6, 7, 8, 9, 10, 15, 16]) df_ = df_.reset_index(drop=True) df_

每組都有一些缺失,其中(2024-01-01 00:06:00~2024-01-01 00:10:00)整個5分鐘的數(shù)據(jù)都缺失了。
此時,再按照5分鐘間隔來resample,得到:
df_.resample("5min", on="begin_time").agg({
"open": "first",
"close": "last",
"high": "max",
"low": "min",
"volumn": "sum",
})

從中可以得出兩個結(jié)論:
- 部分缺失,就用剩余的數(shù)據(jù)來聚合計算(比如5分鐘的數(shù)據(jù)就剩3條,那就用這3條來聚合)
- 整個缺失,那么就用聚合函數(shù)的默認值來填充,比如上面
2024-01-01 00:05:00這條
4. 總結(jié)
時間序列數(shù)據(jù)的分析過程中,周期轉(zhuǎn)換是一個很常用的操作。
不過,不是簡單的用resample來轉(zhuǎn)換就完事了,周期轉(zhuǎn)換之后也會帶來新的問題,比如上面示例中由于轉(zhuǎn)換形成的空值,這些空值是要直接丟棄?還是要插值?如果要插值的話,是用基準數(shù)據(jù)來填充?還是用平均值?用移動平均值?用中位數(shù)?等等來插值,這些都需要根據(jù)具體的分析場景和使用的分析算法來進一步討論。本文主要介紹使用resample來轉(zhuǎn)換數(shù)據(jù),而關(guān)于插值方法的詳細討論將另文闡述。
以上就是詳解如何使用pandas進行時間序列數(shù)據(jù)的周期轉(zhuǎn)換的詳細內(nèi)容,更多關(guān)于pandas數(shù)據(jù)周期轉(zhuǎn)換的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
python3+PyQt5 數(shù)據(jù)庫編程--增刪改實例
今天小編就為大家分享一篇python3+PyQt5 數(shù)據(jù)庫編程--增刪改實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06
python語言中pandas字符串分割str.split()函數(shù)
分列在我們?nèi)粘9ぷ髦薪?jīng)常用到,從各種系統(tǒng)中導出的什么訂單號、名稱、日期很多都是復(fù)合組成的,這些列在匹配、合并時沒有辦法使用,我們經(jīng)常需要將她們分開,下面這篇文章主要給大家介紹了關(guān)于python語言中pandas字符串分割str.split()函數(shù)的相關(guān)資料,需要的朋友可以參考下2022-08-08
PyQt中使用QtSql連接MySql數(shù)據(jù)庫的方法
這篇文章主要介紹了PyQt中使用QtSql連接MySql數(shù)據(jù)庫的方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-07-07
Python實現(xiàn)從文件中加載數(shù)據(jù)的方法詳解
日常工作中有許多類型的文件,以及許多方法,用它們從文件中提取數(shù)據(jù)來圖形化。本文將利用Python實現(xiàn)從文件中加載數(shù)據(jù),感興趣的可以了解一下2022-04-04

