shell腳本實(shí)現(xiàn)數(shù)據(jù)庫表增量同步的流程

更新時(shí)間：2021年10月19日 16:53:08 作者：我的喵叫初六

這篇文章主要介紹了shell腳本實(shí)現(xiàn)數(shù)據(jù)庫表增量同步的流程,流程也很簡單，通過獲取axt_statistics 庫的 zxxt_class 表中id字段的最大id值，具體腳本跟隨小編一起看看本文吧

需求：

每天定時(shí)將源數(shù)據(jù)庫 study_plan 庫的 zxxt_class 表

增量同步到目標(biāo)數(shù)據(jù)庫 axt_statistics 庫的 zxxt_class 表中

前提條件：

兩個(gè)庫中的 zxxt_class 表結(jié)構(gòu)一致

詢問開發(fā)根據(jù)哪個(gè)字段作為增量參考，這里開發(fā)給的是id字段

流程：

獲取 axt_statistics 庫的 zxxt_class 表中id字段的最大id值

通過這個(gè)id值備份study_plan 庫的 zxxt_class 表中大于此id的數(shù)據(jù)

將數(shù)據(jù)導(dǎo)入

腳本：

#!/bin/bash
 
 
#通用變量
MySql_Comm='/usr/local/mysql/bin/mysql'
MySqldump_Comm='/usr/local/mysql/bin/mysqldump'
DateTime=`date +%Y-%m-%d-%H:%M:%S`
 
echo -e "\n\n${DateTime} -----腳本開始執(zhí)行-----" >> /tmp/sourcedb.log
 
#源數(shù)據(jù)庫信息
Source_MySql_User='root'
Source_MySql_Pass='123456'
Source_MySql_Port='3306'
Source_MySql_DB='study_plan'
Source_MySql_Table='zxxt_class'
Source_Host_IP='192.168.0.100'
 
#本機(jī)數(shù)據(jù)庫信息
Mysql_User='root'
MySql_Pass='12345678'
MySql_Port='3306'
MySql_DB='axt_statistics'
MySql_Table='zxxt_class'
MySql_Bak_Dir="/tmp/`date +%Y-%m-%d-%H-%M`"
 
#創(chuàng)建備份目錄
mkdir ${MySql_Bak_Dir}
 
#備份本機(jī)表
if [ -d ${MySql_Bak_Dir} ];then
  ${MySqldump_Comm} \
  -u${Mysql_User} \
  -p${MySql_Pass} \
  -h 127.0.0.1 \
  -P${MySql_Port} \
  ${MySql_DB} ${MySql_Table} > ${MySql_Bak_Dir}/${MySql_DB}-${MySql_Table}.sql
else
  echo "${DateTime} ERROR: ${MySql_Bak_Dir} 目錄不存在" >> /tmp/sourcedb.log
  echo "${DateTime} -----腳本執(zhí)行完成?。?！-----" >> /tmp/sourcedb.log
  exit 1
fi
 
#獲取本機(jī)表最大ID
${MySql_Comm} \
-u${Mysql_User} \
-p${MySql_Pass} \
-h 127.0.0.1 \
-P${MySql_Port} \
--compress ${MySql_DB} -e "select max(id) from ${MySql_Table}" > /tmp/tmp.txt
 
ID_Num=`tail -1 /tmp/tmp.txt`
echo $ID_Num
 
 
#備份源表大于本機(jī)獲取id的數(shù)據(jù)
if [[ ${ID_Num} -gt 0 ]];then
  if [ -d ${MySql_Bak_Dir} ];then
    echo "${DateTime} 開始備份原主機(jī)${Source_MySql_DB} ${Source_MySql_Table} ID大于${ID_Num}的數(shù)據(jù)..." >> /tmp/sourcedb.log
    ${MySqldump_Comm} -t \
    -u${Source_MySql_User} \
    -p${Source_MySql_Pass} \
    -h${Source_Host_IP} \
    -P${Source_MySql_Port} \
    --single-transaction --compress ${Source_MySql_DB} ${Source_MySql_Table} --where="id > '`tail -1 /tmp/tmp.txt`'" > ${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql
    echo "${DateTime} 數(shù)據(jù)備份完成 ${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql" >> /tmp/sourcedb.log
 
    #導(dǎo)入數(shù)據(jù)
    if [ -f ${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql ];then
      echo "${DateTime} 開始導(dǎo)入數(shù)據(jù)..." >> /tmp/sourcedb.log
      ${MySql_Comm} \
      -u${Mysql_User} \
      -p${MySql_Pass} \
      -h 127.0.0.1 \
      -P${MySql_Port} \
      ${MySql_DB} -e "source ${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql"
      echo "${DateTime} 數(shù)據(jù)導(dǎo)入完成${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql..." >> /tmp/sourcedb.log
      echo "${DateTime} -----腳本執(zhí)行完成?。?！-----" >> /tmp/sourcedb.log
    else
      echo "${DateTime} ERROR: sql文件${MySql_Bak_Dir}/${Source_MySql_DB}-${Source_MySql_Table}.sql不存在!"
      echo "${DateTime} -----腳本執(zhí)行完成?。?！-----" >> /tmp/sourcedb.log
      exit 1
    fi
  else
    echo "${DateTime} ERROR: ${MySql_Bak_Dir} 目錄不存在" >> /tmp/sourcedb.log
    echo "${DateTime} -----腳本執(zhí)行完成?。?！-----" >> /tmp/sourcedb.log
    exit 1
  fi
else
  echo "${DateTime} ERROR: ID 等于 NULL" >> /tmp/sourcedb.log
  echo "${DateTime} -----腳本執(zhí)行完成?。。?----" >> /tmp/sourcedb.log
  exit 1
fi

注意！腳本中需要注意的是，從源庫中使用mysqldump時(shí)必須加參數(shù) -t ，-t 表示備份插入數(shù)據(jù)，如果不加 -t ，那么導(dǎo)入到目標(biāo)庫的數(shù)據(jù)將替換源有數(shù)據(jù)。

測試：