最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Pycharm連接遠端Python環(huán)境操作Spark過程

 更新時間:2025年07月28日 09:19:02   作者:時下握今  
遠程連接方案通過SSH配置PyCharm連接CentOS服務(wù)器,統(tǒng)一環(huán)境避免差異,自動同步代碼至遠程工作目錄,并映射pyspark等工具包,提升開發(fā)效率與一致性

遠程連接方案,允許程序員連接遠端測試環(huán)境,確保環(huán)境的統(tǒng)一,避免各種環(huán)境問題的發(fā)生,而且由于是連接的遠程環(huán)境,所有在Pycharm編寫的代碼 可自動上傳到遠端服務(wù)器,本地在執(zhí)行代碼的時候,相當于直接在遠端環(huán)境上運行。

1. 創(chuàng)建工程,指定遠端python解析器

前提條件:遠端Centos系統(tǒng),安裝了Spark環(huán)境,安裝了Python環(huán)境,本文基于anaconda安裝的python環(huán)境

打開pycharm開發(fā)工具,選擇File->New Project->Pure Python創(chuàng)建一個Python工程

需要:指定工程本地工作目錄,選擇先前配置的python解析器,若未配置遠端python解析器,則打開對話框根據(jù)提示配置

2. 添加遠端python解析器

添加遠端python解析器,需要SSH方式(指定服務(wù)器地址、登錄用戶名、登錄口令)登錄遠端服務(wù)器

指定服務(wù)器的登錄口令

單機 Next,連接到服務(wù)器后,選擇python的安裝目錄

配置完成,就可以選擇已經(jīng)配置了的服務(wù)器python解析器。

同時指定工程在服務(wù)器上的工作目錄

3. 配置完成

配置完成,F(xiàn)ile->Settings -> 選擇對應(yīng)工程,可以發(fā)現(xiàn):服務(wù)器上python環(huán)境安裝的工具包,及本地工作目錄和服務(wù)器工作目錄的映射。這里主要關(guān)注pyspark包的安裝

4. 本地文件自動同步遠端

本地工程文件實時同步到服務(wù)器工作目錄,若擔(dān)心影響開發(fā)效率,可以關(guān)閉自動同步,開啟手工同步

5. 刪除遠端python解析器(非必須操作,重新配置時參考該項)

配置過程中,若發(fā)現(xiàn)服務(wù)器python解析器配置錯誤,或配置重復(fù),可從此處進入,刪除有誤的配置

6. 文件模板配置

每個文件都用到的一些代碼,例如導(dǎo)包,本地鎖定服務(wù)器python解析器,可以做成一個模板。工程中每次創(chuàng)建一個新文件,會自動導(dǎo)入模板。

#!/usr/bin/env python
# @desc : 
__coding__ = "utf-8"
__author__ = "xxx team"

from pyspark import SparkContext, SparkConf
import os

# 鎖定遠端操作環(huán)境, 避免存在多個版本環(huán)境的問題
os.environ['SPARK_HOME'] = '/export/server/spark'
os.environ["PYSPARK_PYTHON"] = "/root/anaconda3/bin/python"
os.environ["PYSPARK_DRIVER_PYTHON"] = "/root/anaconda3/bin/python"

# 快捷鍵:  main 回車
if __name__ == '__main__':
    print("XXX案例")

總結(jié)

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。

相關(guān)文章

  • python的time模塊和datetime模塊實例解析

    python的time模塊和datetime模塊實例解析

    這篇文章主要介紹了python的time模塊和datetime模塊實例解析,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2019-11-11
  • Python爬蟲入門教程02之筆趣閣小說爬取

    Python爬蟲入門教程02之筆趣閣小說爬取

    這篇文章主要介紹了Python爬蟲入門教程02之筆趣閣小說爬取,本文給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2021-01-01
  • 最新評論

    鲜城| 昆山市| 老河口市| 新化县| 商南县| 鹤山市| 读书| 乐业县| 阿拉善左旗| 元谋县| 临城县| 隆化县| 克拉玛依市| 宁安市| 梅河口市| 土默特右旗| 乌苏市| 西乡县| 仁布县| 长葛市| 淮滨县| 淮安市| 襄汾县| 固镇县| 忻州市| 肇庆市| 巴中市| 岳池县| 贵州省| 泰兴市| 天门市| 西昌市| 应城市| 土默特右旗| 吉木乃县| 青岛市| 上犹县| 闻喜县| 永顺县| 莱芜市| 通城县|