深入Mysql字符集設(shè)置分析
• 字符(Character)是指人類語言中最小的表義符號。例如'A'、'B'等;
• 給定一系列字符,對每個字符賦予一個數(shù)值,用數(shù)值來代表對應(yīng)的字符,這一數(shù)值就是字符的編碼(Encoding)。例如,我們給字符'A'賦予數(shù)值0,給字符'B'賦予數(shù)值1,則0就是字符'A'的編碼;
• 給定一系列字符并賦予對應(yīng)的編碼后,所有這些字符和編碼對組成的集合就是字符集(Character Set)。例如,給定字符列表為{'A','B'}時,{'A'=>0, 'B'=>1}就是一個字符集;
• 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則;
• 確定字符序后,才能在一個字符集上定義什么是等價的字符,以及字符之間的大小關(guān)系;
• 每個字符序唯一對應(yīng)一種字符集,但一個字符集可以對應(yīng)多種字符序,其中有一個是默認(rèn)字符序(Default Collation);
• MySQL中的字符序名稱遵從命名慣例:以字符序?qū)?yīng)的字符集名稱開頭;以_ci(表示大小寫不敏感)、_cs(表示大小寫敏感)或_bin(表示按編碼值比較)結(jié)尾。例如:在字符序``utf8_general_ci''下,字符``a''和``A''是等價的;
MySQL字符集設(shè)置
• 系統(tǒng)變量:
– character_set_server:默認(rèn)的內(nèi)部操作字符集
– character_set_client:客戶端來源數(shù)據(jù)使用的字符集
– character_set_connection:連接層字符集
– character_set_results:查詢結(jié)果字符集
– character_set_database:當(dāng)前選中數(shù)據(jù)庫的默認(rèn)字符集
– character_set_system:系統(tǒng)元數(shù)據(jù)(字段名等)字符集
– 還有以collation_開頭的同上面對應(yīng)的變量,用來描述字符序。
• 用introducer指定文本字符串的字符集:
– 格式為:[_charset] 'string' [COLLATE collation]
– 例如:
• SELECT _latin1 'string';
• SELECT _utf8 '你好' COLLATE utf8_general_ci;
– 由introducer修飾的文本字符串在請求過程中不經(jīng)過多余的轉(zhuǎn)碼,直接轉(zhuǎn)換為內(nèi)部字符集處理。
MySQL中的字符集轉(zhuǎn)換過程
1. MySQL Server收到請求時將請求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection;
2. 進(jìn)行內(nèi)部操作前將請求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集,其確定方法如下:
• 使用每個數(shù)據(jù)字段的CHARACTER SET設(shè)定值;
• 若上述值不存在,則使用對應(yīng)數(shù)據(jù)表的DEFAULT CHARACTER SET設(shè)定值(MySQL擴展,非SQL標(biāo)準(zhǔn));
• 若上述值不存在,則使用對應(yīng)數(shù)據(jù)庫的DEFAULT CHARACTER SET設(shè)定值;
• 若上述值不存在,則使用character_set_server設(shè)定值。
3. 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results。
常見問題解析
• 向默認(rèn)字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒有設(shè)置連接字符集,查詢時設(shè)置連接字符集為utf8
– 插入時根據(jù)MySQL服務(wù)器的默認(rèn)設(shè)置,character_set_client、character_set_connection和character_set_results均為latin1;
– 插入操作的數(shù)據(jù)將經(jīng)過latin1=>latin1=>utf8的字符集轉(zhuǎn)換過程,這一過程中每個插入的漢字都會從原始的3個字節(jié)變成6個字節(jié)保存;
– 查詢時的結(jié)果將經(jīng)過utf8=>utf8的字符集轉(zhuǎn)換過程,將保存的6個字節(jié)原封不動返回,產(chǎn)生亂碼……
– 插入時根據(jù)連接字符集設(shè)置,character_set_client、character_set_connection和character_set_results均為utf8;
– 插入數(shù)據(jù)將經(jīng)過utf8=>utf8=>latin1的字符集轉(zhuǎn)換,若原始數(shù)據(jù)中含有/u0000~/u00ff范圍以外的Unicode字符,會因為無法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0x3F)符號,以后查詢時不管連接字符集設(shè)置如何都無法恢復(fù)其內(nèi)容了。
檢測字符集問題的一些手段
• SHOW CHARACTER SET;
• SHOW COLLATION;
• SHOW VARIABLES LIKE 'character%';
• SHOW VARIABLES LIKE 'collation%';
• SQL函數(shù)HEX、LENGTH、CHAR_LENGTH
• SQL函數(shù)CHARSET、COLLATION
使用MySQL字符集時的建議
• 建立數(shù)據(jù)庫/表和進(jìn)行數(shù)據(jù)庫操作時盡量顯式指出使用的字符集,而不是依賴于MySQL的默認(rèn)設(shè)置,否則MySQL升級時可能帶來很大困擾;
• 數(shù)據(jù)庫和連接字符集都使用latin1時雖然大部分情況下都可以解決亂碼問題,但缺點是無法以字符為單位來進(jìn)行SQL操作,一般情況下將數(shù)據(jù)庫和連接字符集都置為utf8是較好的選擇;
• 使用mysql C API時,初始化數(shù)據(jù)庫句柄后馬上用mysql_options設(shè)定MYSQL_SET_CHARSET_NAME屬性為utf8,這樣就不用顯式地用SET NAMES語句指定連接字符集,且用mysql_ping重連斷開的長連接時也會把連接字符集重置為utf8;
• 對于mysql PHP API,一般頁面級的PHP程序總運行時間較短,在連接到數(shù)據(jù)庫以后顯式用SET NAMES語句設(shè)置一次連接字符集即可;但當(dāng)使用長連接時,請注意保持連接通暢并在斷開重連后用SET NAMES語句顯式重置連接字符集。
其他注意事項
• my.cnf中的default_character_set設(shè)置只影響mysql命令連接服務(wù)器時的連接字符集,不會對使用libmysqlclient庫的應(yīng)用程序產(chǎn)生任何作用!
• 對字段進(jìn)行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進(jìn)行的,不受連接字符集設(shè)置的影響。
• SQL語句中的裸字符串會受到連接字符集或introducer設(shè)置的影響,對于比較之類的操作可能產(chǎn)生完全不同的結(jié)果,需要小心!
相關(guān)文章
MySQL數(shù)據(jù)庫:?高并發(fā)電商場景下的架構(gòu)設(shè)計與優(yōu)化
企業(yè)使用典型主從復(fù)制模式的數(shù)據(jù)庫架構(gòu),但在面對極端高并發(fā)場景時,該架構(gòu)存在高可用性和網(wǎng)絡(luò)帶寬壓力等問題,文章隨后詳細(xì)分析了這些問題的原因,并提出了解決方案,包括使用分布式鎖、消息隊列削峰、備份策略重構(gòu)和高可用組件升級等,以提升系統(tǒng)的穩(wěn)定性與容災(zāi)能力2025-10-10
帶例子詳解Sql中Union和Union?ALL的區(qū)別
這篇文章主要介紹了帶例子詳解Sql中Union和Union?ALL的區(qū)別,文章圍繞主題展開詳細(xì)的內(nèi)容介紹,具有一定的參考價值,需要的小伙伴可以參考一下2022-09-09
登錄mysql報錯Can‘t connect to MySQL server&n
這篇文章主要給大家介紹了登錄mysql報錯 Can‘t connect to MySQL server on ‘localhost:3306‘ (10061)解決方法,文中有詳細(xì)的解決步驟,需要的朋友可以參考下2023-09-09
Mysql縱表轉(zhuǎn)換為橫表的方法及優(yōu)化教程
在應(yīng)用中為了從不同的視圖去分析數(shù)據(jù),會使用不同的方案去查詢數(shù)據(jù)庫,橫表和縱表的相互轉(zhuǎn)換就是其中一個常見的情景,這篇文章主要給大家介紹了關(guān)于Mysql縱表轉(zhuǎn)換為橫表的相關(guān)資料,需要的朋友可以參考下2021-08-08
mysql Community Server 5.7.19安裝指南(詳細(xì))
這篇文章主要介紹了mysql Community Server 5.7.19安裝指南(詳細(xì)),需要的朋友可以參考下2017-10-10
教你使用MySQL Shell連接數(shù)據(jù)庫的方法
在有些情況下我們需要使用命令行方式連接MySQL數(shù)據(jù)庫,這時可以使用MySQL官方提供的命令行工具M(jìn)ySQL Shell,今天通過本文給大家介紹下mysql Shell連接數(shù)據(jù)庫的方法,感興趣的朋友一起看看吧2022-04-04

