shell批量curl接口腳本的簡(jiǎn)單實(shí)現(xiàn)方法
前言
相信大家應(yīng)該都有所體會(huì),shell腳本可以說(shuō)作用非常大,在服務(wù)器領(lǐng)域,用shell操作事務(wù)可比手動(dòng)點(diǎn)擊要方便快捷得多了。雖然只是文字界面,但是其強(qiáng)大的處理功能,會(huì)讓各種操作超乎想象。而且,也可以將這些習(xí)慣移植到日常的工作當(dāng)中,提升辦事效率。
其實(shí)shell語(yǔ)法很簡(jiǎn)單,基本上就是綜合一下在命令行下,一個(gè)個(gè)的命令集合,然后就組成了shell腳本。當(dāng)然了,不懂語(yǔ)法的,百度搜索一下就好了嘛,畢竟,重要的是思想而非語(yǔ)法。
最近,剛接一需求,如下:
DBA會(huì)將一些服務(wù)規(guī)則的數(shù)據(jù)導(dǎo)出,然后一條條手動(dòng)去curl某應(yīng)用接口,從而完成相應(yīng)的業(yè)務(wù)要求。
那么問(wèn)題來(lái)了,DBA導(dǎo)出的數(shù)據(jù)是格式化的,要curl的接口也是格式化的,需要的,只是將相應(yīng)的數(shù)據(jù)替換成對(duì)應(yīng)的值即可。注意,不保證所有的命令都能執(zhí)行成功,有可能需要重新跑接口。
很明顯,手動(dòng)一條條地去寫curl命令,然后一條條執(zhí)行,然后觀察結(jié)果,做出判斷,這對(duì)于少數(shù)幾個(gè)數(shù)據(jù)來(lái)說(shuō),是可行的。但是假設(shè),數(shù)據(jù)有幾百條、幾千條幾萬(wàn)條呢,那就不可能人工一條條去搞了吧。因此,shell腳本就該出場(chǎng)了(當(dāng)然了,有同學(xué)說(shuō),我用其他語(yǔ)言也可以啊,甚至說(shuō)我這個(gè)功能寫到代碼里就可以了,然而這些特殊無(wú)意義的代碼,是不需要長(zhǎng)期保留下來(lái)的)。
該shell腳本只要做好三件事就行了:
1. 讀取源數(shù)據(jù)文件的內(nèi)容,替換接口的數(shù)據(jù)格式;
2. 執(zhí)行命令,完成業(yè)務(wù)操作;
3. 記錄完整的日志,以便后期排查對(duì)比;
需求很簡(jiǎn)單,不懂語(yǔ)法沒(méi)關(guān)系,查一下嘛。參考代碼如下:
#!/bin/bash
log_file='result.log'
param_file=$1 # 源數(shù)據(jù)在命令行中指定
log_cmd="tee -a $log_file"
i=1
for line in `cat $param_file`;
do
echo "read line" $i ":" $line | tee -a $log_file
let "i=$i+1"
OLD_IFS=$IFS;IFS=",";
arr=($line) # 分割數(shù)據(jù)到數(shù)組
IFS=$OLD_IFS;
curl_cmd="curl -d 'uId=${arr[0]}&bid=${arr[1]}&bA=${arr[2]}&to=6&bP=30&fddays=5' http://localhost:8080/mi/api/ss/1.0.1/co/apply"
echo `date "+%Y-%m-%d %H:%M:%S"` "start ===>> " $curl_cmd | tee -a $log_file
eval "$curl_cmd 2>&1" | tee -a $log_file # 使用 eval 命令,把錯(cuò)誤日志和接口返回結(jié)果一并帶回,到后續(xù)console及日志存儲(chǔ)
echo `date "+%Y-%m-%d %H:%M:%S"` "end <<===" $curl_cmd | tee -a $log_file
done
echo `date "+%Y-%m-%d %H:%M:%S"` "over: end of shell" | tee -a $log_file
源數(shù)據(jù)格式參考如下:
234,201708222394083443,5000 4211,201782937493274932,3000 23,201749379583475934,2000
當(dāng)讀取的文件格式為空格分隔的文件時(shí),該讀取將發(fā)生異常,換成另一種方式讀取行:
#!/bin/bash
log_file='result.log'
param_file=$1
log_cmd="tee -a $log_file"
i=1
while read line;
do
echo "read line" $i ":" $line | tee -a $log_file
let "i=$i+1"
arr=($line)
curl_cmd="curl -d 'uId=${arr[0]}&bid=${arr[1]}&bt=${arr[2]}&toBorrowType=6&borrowPeriod=30&fddays=5' http://localhost/mi/c/1.0.1/c/n"
echo `date "+%Y-%m-%d %H:%M:%S"` "start ===>> " $curl_cmd | tee -a $log_file
#`$curl_cmd` 2>&1 $log_file | tee -a $log_file
eval "$curl_cmd 2>&1" | tee -a $log_file
echo `date "+%Y-%m-%d %H:%M:%S"` "end <<===" $curl_cmd | tee -a $log_file
done < $param_file
echo `date "+%Y-%m-%d %H:%M:%S"` "over: end of shell" | tee -a $log_file
這里有個(gè)技巧,即使用tee命令,既在console上顯示了訪問(wèn)日志,也往文件里寫入了記錄。即有人工觀察,也有日志存儲(chǔ),以備查看。
如此,便實(shí)現(xiàn)了大家都不用手動(dòng)敲數(shù)據(jù),從而在這上面犯錯(cuò)的可能了。 DBA從數(shù)據(jù)導(dǎo)出格式化數(shù)據(jù),shell腳本直接讀取格式化數(shù)據(jù),保留記錄。這才是程序該干的事。
一句話,想辦法偷個(gè)懶,這是我們?cè)摳傻氖隆?/p>
但是應(yīng)該要注意,當(dāng)一個(gè)接口被腳本跑去執(zhí)行時(shí),你就行考慮并發(fā)問(wèn)題,以服務(wù)器的壓?jiǎn)栴}了,也不要太相信代碼。做最壞的打算。
curl的命令請(qǐng)參考:https://curl.haxx.se/docs/manpage.html (你可以搜簡(jiǎn)要中文描述,當(dāng)然)
總結(jié)
從前覺(jué)得1、2G的日志文件處理是個(gè)頭疼的問(wèn)題,后來(lái)發(fā)現(xiàn) grep, awk, sed, less, salt 等工具組合起來(lái),能讓你從幾十G甚至更多的千軍萬(wàn)馬文件中,直取要害。這便是linux的厲害之處。
以上就是這篇文章的全部?jī)?nèi)容了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助,如果有疑問(wèn)大家可以留言交流,謝謝大家對(duì)腳本之家的支持。
相關(guān)文章
Shell腳本函數(shù)定義和函數(shù)參數(shù)
這篇文章主要介紹了Shell腳本函數(shù)定義和函數(shù)參數(shù),分別介紹了2種自定義函數(shù)的方法,以及定義帶返回值函數(shù)的方法,需要的朋友可以參考下2014-07-07
局域網(wǎng)遠(yuǎn)程開機(jī)軟件制作代碼分享
局域網(wǎng)遠(yuǎn)程開機(jī)軟件制作代碼分享,大家可以參考使用,要網(wǎng)卡支持,需要gtk+2.0 的庫(kù)支持UI2013-12-12
linux shell實(shí)現(xiàn)求一個(gè)多維數(shù)組中的最大和最小值
這篇文章主要介紹了linux shell實(shí)現(xiàn)求一個(gè)多維數(shù)組中的最大和最小值,需要的朋友可以參考下2016-08-08
shell腳本無(wú)密碼登錄 expect的使用方法詳解
這篇文章主要介紹了shell腳本無(wú)密碼登錄 expect的使用方法詳解的相關(guān)資料,希望通過(guò)本文能幫助到大家,需要的朋友可以參考下2017-10-10
linux修改tomcat默認(rèn)訪問(wèn)項(xiàng)目的具體步驟(必看篇)
下面小編就為大家?guī)?lái)一篇linux修改tomcat默認(rèn)訪問(wèn)項(xiàng)目的具體步驟(必看篇)。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-03-03
linux shell中curl 發(fā)送post請(qǐng)求json格式問(wèn)題的處理方法
這篇文章主要介紹了linux shell中curl 發(fā)送post請(qǐng)求json格式問(wèn)題的處理方法,文中給大家提到了linux中使用curl發(fā)送post請(qǐng)求問(wèn)題,需要的朋友可以參考下2018-07-07
fedora 開機(jī)啟動(dòng)/禁止開機(jī)啟動(dòng)服務(wù)的實(shí)現(xiàn)
下面小編就為大家?guī)?lái)一篇fedora 開機(jī)啟動(dòng)/禁止開機(jī)啟動(dòng)服務(wù)的實(shí)現(xiàn)。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-02-02
數(shù)據(jù)結(jié)構(gòu) 二叉樹的遞歸與非遞歸
這篇文章主要介紹了數(shù)據(jù)結(jié)構(gòu) 二叉樹的遞歸與非遞歸的相關(guān)資料,需要的朋友可以參考下2017-05-05

