MySQL制作具有千萬條測試數(shù)據(jù)的測試庫的方法
有時候需要制造一些測試的數(shù)據(jù)，以mysql官方給的測試庫為基礎(chǔ)，插入十萬，百萬或者千萬條數(shù)據(jù)。利用一些函數(shù)和存儲過程來完成。
官方給的測試庫地址：https://github.com/datacharmer/test_db
導(dǎo)入官方的數(shù)據(jù)庫，做了一些簡化，留下了部門表，員工表和雇傭表三張表，去掉了外鍵關(guān)聯(lián)。因為是測試數(shù)據(jù)，日期的對應(yīng)關(guān)系不具備準(zhǔn)確性。
必要的函數(shù)
生成隨機字符串
RAND()：生成0~1之間的隨機數(shù)
FLOOR：向下整數(shù) （FlOOR(1.2)=1）
CEILING 向上取整 （CEILING(1.2)=2）
substring：截取字符串
concat：字符串連接
CREATE DEFINER=`root`@`localhost` FUNCTION `rand_string`(n INT) RETURNS varchar(255) CHARSET latin1
BEGIN
DECLARE chars_str varchar(100) DEFAULT 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz';
DECLARE return_str varchar(255) DEFAULT '';
DECLARE i INT DEFAULT 0;
WHILE i < n DO
SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1));
SET i = i +1;
END WHILE;
RETURN return_str;
END
查看自定義的所有函數(shù)
show function status
測試使用：
select rand_string(5);
生成隨機年月日字符串
生成一個指定時間段內(nèi)的隨機日期
SELECT date( from_unixtime( unix_timestamp( '2000-01-01' ) + floor( rand() * ( unix_timestamp( '2020-12-31' ) - unix_timestamp( '2000-01-01' ) + 1 ) ) ));
函數(shù)：生成指定時間段內(nèi)的隨機日期
CREATE DEFINER=`root`@`localhost` FUNCTION `rand_date_string`(startDate varchar(255),endDate varchar(255)) RETURNS varchar(255) CHARSET latin1 BEGIN DECLARE return_str varchar(255) DEFAULT ''; SET return_str =date( from_unixtime( unix_timestamp( startDate ) + floor( rand() * ( unix_timestamp( endDate ) - unix_timestamp( startDate ) + 1 ) ) ) ); RETURN return_str; END
測試使用：
select rand_date_string('2000-01-01','2020-12-31');
//結(jié)果
2001-09-10
存儲過程生成數(shù)據(jù)
給每個部門插入一百萬員工，那么員工表就有九百萬的數(shù)據(jù)。
CREATE DEFINER=`root`@`localhost` PROCEDURE `data`()
BEGIN
DECLARE i INT DEFAULT 1;
DECLARE j INT DEFAULT 0;
DECLARE id INT DEFAULT 0;
WHILE i < 10 DO
WHILE j < 1000000 DO
insert into employees_m (emp_no,birth_date,first_name,last_name,gender,hire_date) VALUES(
id,rand_date_string('1970-01-01','1997-01-01'),rand_string(5),rand_string(5),'M',NOW());
insert into dept_emp_m (emp_no,dept_no,from_date,to_date) values(
id,concat('d00',i),rand_date_string('1990-01-01','2020-12-31'),'2020-12-31');
SET j=j+1;
SET id=id+1;
END WHILE;
SET j = 0;
SET i=i+1;
END WHILE;
END
插入九百萬條數(shù)據(jù)大概用時：4868s
上面的方式插入數(shù)據(jù)會很慢，可以將數(shù)據(jù)插入到內(nèi)存表，就是將表的存儲引擎修改為MEMORY這樣就會使用內(nèi)存去存儲數(shù)據(jù)，會比直接插入到INNODB引擎的表中快很多，只不過就是沒有持久化，但是速度賊快，插入一千萬條數(shù)據(jù)大概需要時間: 1227.89s
附錄
修改表存儲引擎
ALTER TABLE dept_emp_m ENGINE=MEMORY;
調(diào)整內(nèi)存表的大小，修改配置文件
[mysqld] max_heap_table_size = 2048M tmp_table_size = 2048M
以上就是MySQL制作具有千萬條測試數(shù)據(jù)的測試庫的方法的詳細(xì)內(nèi)容，更多關(guān)于MySQL 千萬條測試數(shù)據(jù)的資料請關(guān)注腳本之家其它相關(guān)文章！
- MySQL循環(huán)插入千萬級數(shù)據(jù)
- MySQL 千萬級數(shù)據(jù)量如何快速分頁
- MySQL 快速刪除大量數(shù)據(jù)（千萬級別）的幾種實踐方案詳解
- MySQL千萬級大數(shù)據(jù)SQL查詢優(yōu)化知識點總結(jié)
- MySql 快速插入千萬級大數(shù)據(jù)的方法示例
- MySQL如何快速的創(chuàng)建千萬級測試數(shù)據(jù)
- MySQL分表實現(xiàn)上百萬上千萬記錄分布存儲的批量查詢設(shè)計模式詳解
- MySQL 百萬級分頁優(yōu)化(Mysql千萬級快速分頁)
- mysql千萬級數(shù)據(jù)大表該如何優(yōu)化?
- Mysql limit 優(yōu)化，百萬至千萬級快速分頁 復(fù)合索引的引用并應(yīng)用于輕量級框架
相關(guān)文章
Mysql最新版本的數(shù)據(jù)庫安裝教程（5.7）
這篇文章主要為大家詳細(xì)介紹了Mysql最新版本的數(shù)據(jù)庫安裝教程，分享了Mysql 5.7安裝配置方法，感興趣的小伙伴們可以參考一下2016-07-07
MySQL實現(xiàn)模糊查詢的高效方法總結(jié)(附30條優(yōu)化建議)
數(shù)據(jù)庫SQL優(yōu)化是老生常談的問題,在面對模糊查詢的時候又有什么好的優(yōu)化建議呢?這篇文章主要給大家介紹了關(guān)于MySQL實現(xiàn)模糊查詢的高效方法,文中還附30條優(yōu)化建議,需要的朋友可以參考下2024-03-03
這篇文章主要給大家介紹了關(guān)于MySQL InnoDB中鎖機制的相關(guān)資料，文中通過示例代碼介紹的非常詳細(xì)，對大家學(xué)習(xí)或者使用MySQL具有一定的參考學(xué)習(xí)價值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-05-05
MySQL更新存放JSON的字段、\“ 轉(zhuǎn)義成 “的問題描述
本篇介紹在執(zhí)行MySQL線上變更時遇到的問題，表現(xiàn)為"更新JSON字段時，實際更新的值與SQL語句中的值不一致，JSON格式錯誤"，本文給大家分享問題描述及解決方案，感興趣的朋友一起看看吧2022-12-12
這篇文章主要給大家介紹了關(guān)于MLSQL編譯時權(quán)限控制的相關(guān)資料，文中通過示例代碼介紹的非常詳細(xì)，對大家學(xué)習(xí)或者使用mysql具有一定的參考學(xué)習(xí)價值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03
MySQL查詢重復(fù)數(shù)據(jù)（刪除重復(fù)數(shù)據(jù)保留id最小的一條為唯一數(shù)據(jù)）
查重是我們在工作中經(jīng)常會遇到的一個需求，下面這篇文章主要給大家介紹了關(guān)于MySQL查詢重復(fù)數(shù)據(jù)（刪除重復(fù)數(shù)據(jù)保留id最小的一條為唯一數(shù)據(jù)）的相關(guān)資料，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03
mysql實現(xiàn)將date字段默認(rèn)值設(shè)置為CURRENT_DATE
這篇文章主要介紹了mysql實現(xiàn)將date字段默認(rèn)值設(shè)置為CURRENT_DATE問題，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-07-07
Linux 操作系統(tǒng)中 MySQL 的配置文件是 my.cnf,一般會放在 /etc/my.cnf 或 /etc/mysql/my.cnf 目錄下,這篇文章主要介紹了Mysql my.cnf配置文件參數(shù)詳解,需要的朋友可以參考下2023-11-11
MySQL算術(shù)/比較/邏輯/位/運算符與正則舉例詳解
每種數(shù)據(jù)庫都支持SQL語句,但是它們也都有各自支持的運算符,下面這篇文章主要給大家介紹了關(guān)于MySQL算術(shù)/比較/邏輯/位/運算符與正則的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-02-02
這篇文章主要介紹了淺談如何保證Mysql主從一致2022-03-03