Linux部署python爬蟲(chóng)腳本,并設(shè)置定時(shí)任務(wù)的方法
更新時(shí)間：2019年06月29日 09:52:58 作者：mikezhou002
今天小編就為大家分享一篇Linux部署python爬蟲(chóng)腳本,并設(shè)置定時(shí)任務(wù)的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
去年因項(xiàng)目需要，用python寫(xiě)了個(gè)爬蟲(chóng)。因爬到的數(shù)據(jù)需要存到生產(chǎn)環(huán)境的PG數(shù)據(jù)庫(kù)。所以需要將腳本部署到CentOS服務(wù)器，并設(shè)置定時(shí)任務(wù)，自動(dòng)啟動(dòng)腳本。
實(shí)施步驟如下：
1.安裝pip（操作系統(tǒng)自帶了python2.6可以直接用，但是沒(méi)有pip）
# 下載pip安裝包 wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate # 解壓安裝包并安裝 tar -xzvf pip-1.5.4.tar.gz cd pip-1.5.4 python setup.py install
2.用pip安裝第三方庫(kù)
pip install PyGreSQL==5.0.3 pip install requests==2.18.3
3.設(shè)置定時(shí)任務(wù)
# 開(kāi)啟定時(shí)任務(wù)服務(wù) service crond start # 查看定時(shí)任務(wù)服務(wù)狀態(tài) service crond status # 打開(kāi)定時(shí)任務(wù)編輯窗口 crontab -e # 添加兩條定時(shí)任務(wù)，即每天0點(diǎn)0分和12點(diǎn)20分各執(zhí)行一次，并寫(xiě)入日志 0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 & 定時(shí)任務(wù)語(yǔ)法如下： # For details see man 4 crontabs # Example of job definition: # .---------------- minute (0 - 59) # | .------------- hour (0 - 23) # | | .---------- day of month (1 - 31) # | | | .------- month (1 - 12) OR jan,feb,mar,apr ... # | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat # | | | | | # * * * * * user-name command to be executed
以上這篇Linux部署python爬蟲(chóng)腳本,并設(shè)置定時(shí)任務(wù)的方法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
您可能感興趣的文章:
相關(guān)文章
linux開(kāi)機(jī)啟動(dòng)nodemanager步驟
這篇文章主要介紹了linux開(kāi)機(jī)啟動(dòng)nodemanager的步驟，大家參考使用吧2014-01-01
Linux下gdb調(diào)試打印棧幀中的變量過(guò)程
這篇文章主要介紹了Linux下gdb調(diào)試打印棧幀中的變量過(guò)程,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-09-09
這篇文章主要介紹了Apache源碼安裝和虛擬主機(jī)配置的教程，本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-11-11
今天小編就為大家分享一篇關(guān)于ZFS是什么，及其特性介紹與使用理由的文章，小編覺(jué)得內(nèi)容挺不錯(cuò)的，現(xiàn)在分享給大家，具有很好的參考價(jià)值，需要的朋友一起跟隨小編來(lái)看看吧2018-09-09
web服務(wù)器集群（多臺(tái)web服務(wù)器）session同步、共享的3種解決方法
這篇文章主要介紹了web服務(wù)器集群（多臺(tái)web服務(wù)器）session同步、共享的3種解決方法,需要的朋友可以參考下2014-04-04
perf是Linux下的一款性能分析工具,能夠進(jìn)行函數(shù)級(jí)與指令級(jí)的熱點(diǎn)查找,它由一個(gè)叫“Performance counters“的內(nèi)核子系統(tǒng)實(shí)現(xiàn),基于事件采樣原理,支持針對(duì)處理器相關(guān)性能指標(biāo)與操作系統(tǒng)相關(guān)性能指標(biāo)的性能剖析,本文介紹了Linux使用perf分析CPU占用情況的方法步驟2024-05-05
目前LAMP (Linux + Apache + MySQL + PHP) 近幾年來(lái)發(fā)展迅速，已經(jīng)成為Web 服務(wù)器的事實(shí)標(biāo)準(zhǔn)。本文我們將介紹基于LAMP組合的服務(wù)器的性能優(yōu)化技巧：加速PHP。2012-02-02
解析Linux內(nèi)核與設(shè)備樹(shù)的編譯和燒寫(xiě)
在內(nèi)核源碼中，存在大量對(duì)板級(jí)細(xì)節(jié)信息描述的代碼。開(kāi)源文檔中對(duì)設(shè)備樹(shù)的描述是，一種描述硬件資源的數(shù)據(jù)結(jié)構(gòu)，它通過(guò)bootloader將硬件資源傳給內(nèi)核，使得內(nèi)核和硬件資源描述相對(duì)獨(dú)立2021-06-06
Apache之AllowOverride參數(shù)使用說(shuō)明
通常利用Apache的rewrite模塊對(duì) URL 進(jìn)行重寫(xiě)的時(shí)候， rewrite規(guī)則會(huì)寫(xiě)在 .htaccess 文件里。但要使 apache 能夠正常的讀取.htaccess 文件的內(nèi)容，就必須對(duì).htaccess 所在目錄進(jìn)行配置。2011-01-01
在 Ubuntu 15.04/CentOS 7 中安裝 Lighttp
以下是我們?cè)谶\(yùn)行 Ubuntu 15.04 或 CentOS 7 Linux 發(fā)行版的機(jī)器上安裝 Lighttpd Web 服務(wù)器的簡(jiǎn)要流程,需要的朋友可以參考下2017-04-04