最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Java之Rsync并發(fā)遷移數據并校驗詳解

 更新時間:2021年08月12日 09:46:27   作者:王者丶丿風范  
這篇文章主要介紹了Java之Rsync并發(fā)遷移數據并校驗詳解,本篇文章通過簡要的案例,講解了該項技術的了解與使用,以下就是詳細內容,需要的朋友可以參考下

java調用Rsync并發(fā)遷移數據并執(zhí)行校驗

java代碼如下

RsyncFile.java

import lombok.NoArgsConstructor;
import lombok.SneakyThrows;

import java.io.*;
import java.util.ArrayList;
import java.util.Date;
import java.util.concurrent.*;

/**
 * @ClassName RsyncFile
 * @Descriptiom TODO rsync多線程同步遷移數據
 * @Author KING
 * @Date 2019/11/25 09:17
 * @Version 1.2.2
 * rsync -vzrtopg --progress --delete   //鏡像同步
 **/
@NoArgsConstructor
public class RsyncFile implements  Runnable{
    private static final int availProcessors = Runtime.getRuntime().availableProcessors();
    //構造以cpu核心數為核心池,cpu線程數為最大池,超時時間為1s,線程隊列為大小為無界的安全阻塞線程隊列,拒絕策略為DiscardOldestPolicy()的線程池。(同步數據當然不能丟下拒絕任務)
    private ExecutorService ThreadPool = new ThreadPoolExecutor(availProcessors >> 1,
            availProcessors,
            1L,
            TimeUnit.SECONDS,
            new LinkedBlockingQueue<>(),Executors.defaultThreadFactory(),
            new ThreadPoolExecutor.DiscardOldestPolicy());

    //保存掃描得到的文件列表
    private static ArrayList<String> fileNameList = new ArrayList<String>();
    private String shellname;
    private String filename;
    private String userip;
    private CountDownLatch countDownLatch;
    private static int deep = 0;

    public RsyncFile(String ShellName, String filename, String UserIP, CountDownLatch countDownLatch) {
        this.shellname = ShellName;
        this.filename = filename;
        this.userip = UserIP;
        this.countDownLatch = countDownLatch;
    }

    public static void main(String[] args) {
        try {
            new RsyncFile().Do(args[0],args[1],Integer.parseInt(args[2]));
        }catch (ArrayIndexOutOfBoundsException e){
            System.out.println(e);
            System.out.println("Error , args send fault");
            System.out.println("please send localAddress remote username @ remote IP or hostname and catalogue");
            System.out.println("like this [  /home/test/  root@node1:/test/   1 ]");
        }catch(NumberFormatException e1){
            System.out.println(e1);
            System.out.println("please input Right Directory depth, this number must be int");
            System.out.println("like this [  /home/test/  root@node1:/test/   1 ]");
        }
    }

    @SneakyThrows
    private void Do(String content,String UserIP,int setdeep){
        System.out.println("開始執(zhí)行");
        System.out.println("開始時間:" + new Date());
        Long a = System.nanoTime();
        File file = new File(content);
        System.out.println("開始掃描本地指定目錄");
        GetAllFile(file,setdeep);//按深度掃描非空文件夾和文件
        System.out.println("掃描本地目錄完成");

        //給腳本賦予權限
        String [] cmd={"/bin/sh","-c","chmod 755 ./do*"};
        Runtime.getRuntime().exec(cmd);
        //創(chuàng)建遠端目錄操作
        System.out.println("開始創(chuàng)建遠端目錄結構");
        //一次計數鎖用于保證目錄創(chuàng)建完成
        CountDownLatch doDirLock = new CountDownLatch(1);
        ThreadPool.execute(new RsyncFile("./doDirc.sh",content,UserIP,doDirLock));
        doDirLock.await();
        System.out.println("創(chuàng)建遠端目錄結構完成");

        //開始同步工作
        System.out.println("開始執(zhí)行同步工作");
        System.out.println("同步的文件夾或文件總數: " + fileNameList.size());
        System.out.println("正在同步。。。。。");
        //fileNameList.size()次計數鎖用于保證數據同步完成(保證計時準確)
        CountDownLatch rsyncLock = new CountDownLatch(fileNameList.size());
        System.out.println(fileNameList.size());
        for (String fileName:fileNameList) {
            //除去文件名中與UserIP重復的文件路徑
            String RemoteDir = UserIP.concat(fileName.replace(content, ""));
            System.out.println("要同步的本地目錄或文件: " + fileName);
            System.out.println("要同步的遠端目錄或文件: " + RemoteDir);
            ThreadPool.execute(new RsyncFile("./doRync.sh",fileName, RemoteDir,rsyncLock));
        }
        rsyncLock.await();
        System.out.println("執(zhí)行同步工作完成");

        //開始文件校驗工作
        System.out.println("執(zhí)行文件校驗及重傳");
        //一次計數鎖用于保證校驗完成
        CountDownLatch chechSumLock = new CountDownLatch(1);
        ThreadPool.execute(new RsyncFile("./doChecksum.sh",content,UserIP,chechSumLock));
        chechSumLock.await();
        System.out.println("文件校驗及重傳完成");
        ThreadPool.shutdown();

        Long b = System.nanoTime();
        Long aLong = (b - a)/1000000L;
        System.out.println("處理時間" + aLong + "ms");
        System.out.println("結束時間:" + new Date());

    }

    /**
     * 執(zhí)行rsync腳本的線程方法,使用PrintWriter來與linux Terminal交互
     */
    @Override
    public void run() {
        try {
            String command=shellname.concat(" ").concat(filename).concat(" ").concat(userip);
            File wd = new File("/bin");
            Process process = null;
            process = Runtime.getRuntime().exec("/bin/bash", null, wd);
            if (process != null) {
                InputStream is = process.getInputStream();
                BufferedReader reader = new BufferedReader(new InputStreamReader(is));
                PrintWriter out = new PrintWriter(new BufferedWriter(new OutputStreamWriter(process.getOutputStream())),
                        true);
                //切換到當前class文件所在目錄
                out.println("cd " + System.getProperty("user.dir"));
                out.println(command);
                out.println("exit");
                StringBuilder sb = new StringBuilder();
                String line;
                while ((line = reader.readLine()) != null) {
                    sb.append(line + System.lineSeparator());
                }
                process.waitFor();
                reader.close();
                out.close();
                process.destroy();
                System.out.println("result:" + sb.toString());
            }else {
                System.out.println("找不到系統bash工具,請檢查系統是否異常,并為系統創(chuàng)建/bin/sh的bash工具軟連接");
            }
        } catch (Exception e) {
            System.err.println(e.getMessage());
        }finally {
            //倒記數鎖釋放一次
            countDownLatch.countDown();
        }
    }


    /**遍歷指定的目錄并能指定深度
     * @param file 指定要遍歷的目錄
     * @param setDeep 設定遍歷深度
     */
    @SneakyThrows
    private static void  GetAllFile(File file, int setDeep) {
        if(file != null){
            if(file.isDirectory() && deep<setDeep){
                deep++;
                File f[] = file.listFiles();
                if(f != null) {
                    int length = f.length;
                    for(int i = 0; i < length; i++)
                        GetAllFile(f[i],setDeep);
                    deep--;
                }
            } else {
                if(file.isDirectory()){
                    //如果為目錄末尾添加 / 保證rsync正常處理
                    fileNameList.add(file.getAbsolutePath().concat("/"));
                }else {
                    fileNameList.add(file.getAbsolutePath());
                }
            }
        }
    }

}

doDir.sh

rsync -av --include='*/' --exclude='*' $1 $2 |tee -a /tmp/rsync.log 2>&1
echo "創(chuàng)建目錄結構操作"

doRsync.sh

rsync -avzi --stats --progress $1 $2 |tee -a /tmp/rsync.log 2>&1

doChecksum.sh

rsync -acvzi --stats --progress $1 $2 |tee -a /tmp/checksum.log 2>&1

附錄

rsync輸出日志說明如下

YXcstpoguax  path/to/file
|||||||||||
||||||||||╰- x: The extended attribute information changed
|||||||||╰-- a: The ACL information changed
||||||||╰--- u: The u slot is reserved for future use
|||||||╰---- g: Group is different
||||||╰----- o: Owner is different
|||||╰------ p: Permission are different
||||╰------- t: Modification time is different
|||╰-------- s: Size is different
||╰--------- c: Different checksum (for regular files), or
||              changed value (for symlinks, devices, and special files)
|╰---------- the file type:
|            f: for a file,
|            d: for a directory,
|            L: for a symlink,
|            D: for a device,
|            S: for a special file (e.g. named sockets and fifos)
╰----------- the type of update being done::
             <: file is being transferred to the remote host (sent)
             >: file is being transferred to the local host (received)
             c: local change/creation for the item, such as:
                - the creation of a directory
                - the changing of a symlink,
                - etc.
             h: the item is a hard link to another item (requires 
                --hard-links).
             .: the item is not being updated (though it might have
                attributes that are being modified)
             *: means that the rest of the itemized-output area contains
                a message (e.g. "deleting")

到此這篇關于Java之Rsync并發(fā)遷移數據并校驗詳解的文章就介紹到這了,更多相關Java之Rsync并發(fā)內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • httpclient 請求http數據,json轉map的實例

    httpclient 請求http數據,json轉map的實例

    下面小編就為大家?guī)硪黄猦ttpclient 請求http數據,json轉map的實例。小編覺得挺不錯的,現在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2016-12-12
  • SpringBoot整合LDAP的流程分析

    SpringBoot整合LDAP的流程分析

    這篇文章主要介紹了SpringBoot整合LDAP的流程分析,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2021-05-05
  • springcloud整合seata的實現代碼

    springcloud整合seata的實現代碼

    這篇文章主要介紹了springcloud整合seata的實現方法,整合步驟通過引入spring-cloud-starter-alibaba-seata?jar包,文中結合實例代碼給大家介紹的非常詳細,需要的朋友可以參考下
    2022-05-05
  • java?線程池存在的意義

    java?線程池存在的意義

    這篇文章主要介紹了java線程池存在的意義,通過多線程案例模擬鎖的產生的情況展開對主題的詳細介紹,具有一定的參考價值,需要的朋友可以參考一下
    2022-06-06
  • TCP/IP協議中三次握手四次揮手的原理及流程分析

    TCP/IP協議中三次握手四次揮手的原理及流程分析

    這篇文章主要介紹了TCP/IP協議中三次握手四次揮手的原理及流程分析,具有一定參考價值,需要的朋友可以了解下。
    2017-11-11
  • spring boot入門開始你的第一個應用

    spring boot入門開始你的第一個應用

    這篇文章主要介紹了spring boot入門開始你的第一個應用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,,需要的朋友可以參考下
    2019-06-06
  • IntelliJ IDEA里找不到javax.servlet的jar包的解決方法

    IntelliJ IDEA里找不到javax.servlet的jar包的解決方法

    這篇文章主要介紹了IntelliJ IDEA里找不到javax.servlet的jar包的解決方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2020-09-09
  • jdk21安裝后無jre文件該如何解決

    jdk21安裝后無jre文件該如何解決

    java開發(fā)少不了安裝jdk,下面這篇文章主要給大家介紹了關于jdk21安裝后無jre文件該如何解決的相關資料,文中通過圖文介紹的非常詳細,需要的朋友可以參考下
    2024-05-05
  • Spring Boot 定義系統啟動任務的多種方式

    Spring Boot 定義系統啟動任務的多種方式

    這篇文章主要介紹了Spring Boot 定義系統啟動任務的多種方式,看看你都會哪幾種 ,感興趣的朋友跟隨小編一起看看吧
    2019-04-04
  • 關于springcloud報錯報UnsatisfiedDependencyException的問題

    關于springcloud報錯報UnsatisfiedDependencyException的問題

    這篇文章主要介紹了關于springcloud報錯報UnsatisfiedDependencyException的問題,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-11-11

最新評論

关岭| 鞍山市| 佛教| 尉氏县| 商丘市| 宁明县| 惠来县| 松桃| 稷山县| 鄂托克旗| 开化县| 定南县| 高密市| 喀喇沁旗| 安福县| 铜梁县| 通州市| 镇原县| 微山县| 宜兰市| 镇雄县| 安图县| 布拖县| 大石桥市| 健康| 普宁市| 广河县| 定安县| 手游| 永丰县| 盐源县| 玉树县| 鹤岗市| 茌平县| 资阳市| 杭州市| 衡东县| 海南省| 酒泉市| 玉溪市| 西乡县|