Golang處理內(nèi)存溢出方式
背景
最近系統(tǒng)在壓測過程中發(fā)現(xiàn)主程序在并發(fā)增大后會(huì)出現(xiàn)主程序閃退現(xiàn)象,幾經(jīng)波折,認(rèn)為有可能是內(nèi)存溢出引起的
正好對 Golang 里分析 dump 這塊還沒怎么涉及,借此契機(jī)研究一下。
前言
查看社區(qū)后,發(fā)現(xiàn)在Golang中,發(fā)生內(nèi)存溢出通常會(huì)導(dǎo)致程序直接崩潰退出,而無法像其他語言一樣生成core dump文件。
因此,Golang社區(qū)提供了一些工具可以幫助用戶進(jìn)行內(nèi)存分析。
以下是兩個(gè)常用的工具:
1. pprof
pprof是Golang內(nèi)置的性能分析工具,在分析內(nèi)存使用方面非常有用。
通過設(shè)置一個(gè)標(biāo)志位并在程序退出時(shí)打開pprof服務(wù)器,程序可以向pprof服務(wù)器報(bào)告一些性能數(shù)據(jù),例如內(nèi)存使用情況。
可以在代碼中加入以下代碼,啟動(dòng)pprof服務(wù)器并在本地8080端口進(jìn)行訪問:
import "net/http"
import _ "net/http/pprof"
func main() {
go func() {
http.ListenAndServe("localhost:8080", nil)
}()
// ...
}啟動(dòng)pprof服務(wù)器之后,可以訪問http://localhost:8080/debug/pprof/heap進(jìn)行堆內(nèi)存分析,獲取內(nèi)存占用的堆快照。

上圖中框出的這 4 個(gè)部分應(yīng)該是平時(shí)最常用的,從上往下分別是:
- 阻塞分析: 比如,goroutine 的 wait。
- 內(nèi)存分析: 比如,內(nèi)存泄漏、內(nèi)存消耗異常等情況。
- 互斥鎖分析: 比如,觀察代碼里用到的sync.RWMutex 和 sync.Mutex 的具體情況。
- CPU 分析: 比如,排查哪些代碼較多地占用了 CPU 資源。
以下是一段消耗內(nèi)存的代碼,用于走讀流程,如下:
func main() {
go func() { http.ListenAndServe("0.0.0.0:8899", nil) }()
str := "gejigejigejigejigejigejigejigjeijgiewjiasdiahdkuhakudsfhakdshgkjasdkjgbakjsdfioajewoiepqbibgijqbgoipbjwebkjfqjkw egqhwejbgfaijwebgjqhb"
for i := 0; i < 999; i++ {
str += str
}
fmt.Scanln()
}在 web 頁面點(diǎn)擊「heap」入口,我們可以看到實(shí)時(shí)內(nèi)存的使用情況。

再通過以下命令進(jìn)入到命令交互模式看看效果:
go tool pprof http://localhost:8899/debug/pprof/heap
進(jìn)去之后輸入「top」,就能很直觀的看到哪個(gè)方法占用了內(nèi)存。

這里的幾個(gè)列的含義簡單羅列下:
flat:當(dāng)前函數(shù)所占用的容量。flat%:當(dāng)前函數(shù)所占用的容量,在總分配容量的百分比。sum%:是從調(diào)用的最外層到當(dāng)前方法累加使用的容量占總?cè)萘康陌俜直?/li>cum:當(dāng)前函數(shù)以及子函數(shù)所占用的容量。cum%:當(dāng)前函數(shù)以及子函數(shù)所占用的容量,在總分配容量的百分比。- 最后一列是函數(shù)的名字
可以再輸入獲得更詳細(xì)的信息:
list main.main

上述指令會(huì)羅列出每行代碼占用的容量;其他類似,如下是分析CPU的

2. Go Memstats
Go Memstats是一個(gè)Golang的標(biāo)準(zhǔn)庫工具,用于收集和顯示內(nèi)存信息。
可以在代碼中導(dǎo)入“runtime”包,并調(diào)用“runtime.ReadMemStats(&mem)”函數(shù)收集內(nèi)存信息。
然后可以打印內(nèi)存使用情況的詳情,例如總分配量和分配的堆塊數(shù)量等。
以下是示例代碼:
import (
"fmt"
"runtime"
)
func main() {
var mem runtime.MemStats
runtime.ReadMemStats(&mem)
fmt.Printf("TotalAlloc (Heap) = %v MiB\n", mem.TotalAlloc/mb)
fmt.Printf("Alloc = %v MiB\n", mem.Alloc/mb)
fmt.Printf("Sys = %v MiB\n", mem.Sys/mb)
fmt.Printf("NumGC = %v\n", mem.NumGC)
}這將輸出程序中已分配的總內(nèi)存,已使用的內(nèi)存量,系統(tǒng)內(nèi)存使用情況和垃圾回收次數(shù)等信息。
使用這些信息,可以分析內(nèi)存占用量的增長和優(yōu)化內(nèi)存使用。
3. 程序 crash 的時(shí)候自動(dòng)創(chuàng)建 dump 文件
大多數(shù)時(shí)候,我們可能沒有條件實(shí)時(shí)分析程序運(yùn)行情況。
比如問題在生產(chǎn)環(huán)境偶發(fā)出現(xiàn),且無法在測試環(huán)境重現(xiàn)。
這個(gè)時(shí)候我們可以配置當(dāng)程序 crash 的時(shí)候自動(dòng)保存 dump 文件。
先輸入命令「ulimit -a」看下當(dāng)前是否開啟了core file。

這里的數(shù)字單位是 block,具體需要根據(jù)所在的操作系統(tǒng)一個(gè) block 對應(yīng)的大小來設(shè)置。如果是0的話說明未開啟??梢酝ㄟ^:
ulimit -c 1024 或者 ulimit -c unlimited 來設(shè)置 dump 文件的最大 size。
如果想要永久有效,則:
echo "ulimit -c unlimited" >> ~/.profile
讓程序發(fā)生 crash 的時(shí)候會(huì)自動(dòng)生成 dump 文件
## 臨時(shí)有效 export GOBACTRACE=crash ## 永久有效 echo "export GOTRACEBACK=crash " >> ~/.profile
這就意味著,讓程序發(fā)生 crash 的時(shí)候會(huì)自動(dòng)生成 dump 文件。
有了 dump 文件,可以用 gdb 或者 delve 工具來分析了(官方更建議我們使用 delve,對 Golang 的支持更好)
總之啊,無論你使用哪種工具,分析Golang內(nèi)存溢出問題需要耐心和技巧。
建議不僅可以使用這些工具進(jìn)行數(shù)據(jù)分析,同時(shí)還應(yīng)該閱讀關(guān)于垃圾回收機(jī)制和內(nèi)存管理的文檔,嘗試實(shí)現(xiàn)更好的編碼習(xí)慣,以減少內(nèi)存溢出的可能性。
總結(jié)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
Golang實(shí)現(xiàn)CronJob(定時(shí)任務(wù))的方法詳解
這篇文章主要為大家詳細(xì)介紹了Golang如何通過一個(gè)單 pod 去實(shí)現(xiàn)一個(gè)常駐服務(wù),去跑定時(shí)任務(wù)(CronJob),文中的示例代碼講解詳細(xì),需要的可以參考下2023-04-04
Golang極簡入門教程(四):編寫第一個(gè)項(xiàng)目
這篇文章主要介紹了Golang極簡入門教程(四):編寫第一個(gè)項(xiàng)目,本文講解了workspace、包路徑、第一個(gè)可執(zhí)行命令等內(nèi)容,需要的朋友可以參考下2014-10-10
Go實(shí)現(xiàn)自動(dòng)解壓縮包以及讀取docx/doc文件內(nèi)容詳解
在開發(fā)過程中,我們常常需要處理壓縮包和文檔文件。本文將介紹如何使用Go語言自動(dòng)解壓縮包和讀取docx/doc文件,需要的可以參考一下2023-03-03
Go語言實(shí)現(xiàn)自動(dòng)填寫古詩詞實(shí)例代碼
這篇文章主要給大家介紹了關(guān)于Go語言實(shí)現(xiàn)自動(dòng)填寫古詩詞的相關(guān)資料,這是最近在項(xiàng)目中遇到的一個(gè)需求,文中通過示例代碼介紹的非常詳細(xì),需要的朋友可以參考借鑒,下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧。2018-03-03
golang?四則運(yùn)算計(jì)算器yacc歸約手寫實(shí)現(xiàn)
這篇文章主要為大家介紹了golang?四則運(yùn)算?計(jì)算器?yacc?歸約的手寫實(shí)現(xiàn),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-07-07

