国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 學(xué)院 > 開發(fā)設(shè)計 > 正文

字符集和編碼方式

2019-11-14 11:33:36
字體:
供稿:網(wǎng)友
1,字符:字符是抽象的最小文本單位。它沒有固定的形狀(可能是一個字形),而且沒有值。“A”是一個字符,“€”(德國、法國和許多其他歐洲國家通用貨幣的標(biāo)志)也是一個字符。“中”“國”這是兩個漢字字符。字符僅僅代表一個符號,沒有任何實(shí)際值的意義。2,字符集:字符集是字符的集合。例如,漢字字符是中國人最先發(fā)明的字符,在中文、日文、韓文和越南文的書寫中使用。這也說明了字符和字符集之間的關(guān)系,字符組成字符集(iso8859-1,GB2312/GBK,unicode)。3,代碼點(diǎn):字符集中的每個字符都被分配到一個“代碼點(diǎn)”。每個代碼點(diǎn)都有一個特定的唯一數(shù)值,稱為標(biāo)值。該標(biāo)量值通常用十六進(jìn)制表示。4,代碼單元: 在每種編碼形式中,代碼點(diǎn)被映射到一個或多個代碼單元。“代碼單元”是各個編碼方式中的單個單元。代碼單元的大小等效于特定編碼方式的位數(shù):UTF-8 :UTF-8 中的代碼單元由 8 位組成;在 UTF-8 中,因?yàn)榇a單元較小的緣故,每個代碼點(diǎn)常常被映射到多個代碼單元。代碼點(diǎn)將被映射到一個、兩個、三個或四個代碼單元;UTF-16 :UTF-16 中的代碼單元由 16 位組成;UTF-16 的代碼單元大小是 8 位代碼單元的兩倍。所以,標(biāo)量值小于 U+10000 的代碼點(diǎn)被編碼到單個代碼單元中;UTF-32:UTF-32  中的代碼單元由 32 位組成; UTF-32 中使用的 32 位代碼單元足夠大,每個代碼點(diǎn)都可編碼為單個代碼單元;GB18030:GB18030  中的代碼單元由 8 位組成;在 GB18030 中,因?yàn)榇a單元較小的緣故,每個代碼點(diǎn)常常被映射到多個代碼單元。代碼點(diǎn)將被映射到一個、兩個或四個代碼單元。5,舉例:

“中國北京香蕉是個大笨蛋”這是我定義的aka字符集;各字符對應(yīng)代碼點(diǎn)為:北 00000001京 00000010香 10000001蕉 10000010是 10000100個 10001000大 10010000笨 10100000蛋 11000000中 00000100國 00001000下面是我定義的 zixia 編碼方案(8位),可以看到它的編碼中表示了aka字符集的所有字符對應(yīng)的 代碼單元;北 10000001京 10000010香 00000001蕉 00000010是 00000100個 00001000大 00010000笨 00100000蛋 01000000中 10000100國 10001000所謂文本文件 就是我們按一定編碼方式將二進(jìn)制數(shù)據(jù)表示為對應(yīng)的文本如 00000001000000100000010000001000000100000010000001000000這樣的文件。我用一個支持 zixia編碼和aka字符集的記事本打開,它就按照編碼方案顯示為  “香蕉是個大笨蛋 ”如果我把這些字符按照GBK另存一個文件,那么則肯定不是這個,而是1100111111100011 1011110110110110 1100101011000111 1011100011110110 1011010011110011 1011000110111111 1011010110110000 110100001010

二,字符集1, 常用字符集分類ASCII及其擴(kuò)展字符集作用:表語英語及西歐語言。位數(shù):ASCII是用7位表示的,能表示128個字符;其擴(kuò)展使用8位表示,表示256個字符。范圍:ASCII從00到7F,擴(kuò)展從00到FF。ISO-8859-1字符集作用:擴(kuò)展ASCII,表示西歐、希臘語等。位數(shù):8位,范圍:從00到FF,兼容ASCII字符集。GB2312字符集作用:國家簡體中文字符集,兼容ASCII。位數(shù):使用2個字節(jié)表示,能表示7445個符號,包括6763個漢字,幾乎覆蓋所有高頻率漢字。范圍:高字節(jié)從A1到F7, 低字節(jié)從A1到FE。將高字節(jié)和低字節(jié)分別加上0XA0即可得到編碼。BIG5字符集作用:統(tǒng)一繁體字編碼。位數(shù):使用2個字節(jié)表示,表示13053個漢字。范圍:高字節(jié)從A1到F9,低字節(jié)從40到7E,A1到FE。GBK字符集作用:它是GB2312的擴(kuò)展,加入對繁體字的支持,兼容GB2312。位數(shù):使用2個字節(jié)表示,可表示21886個字符。范圍:高字節(jié)從81到FE,低字節(jié)從40到FE。GB18030字符集作用:它解決了中文、日文、朝鮮語等的編碼,兼容GBK。位數(shù):它采用變字節(jié)表示(1 ASCII,2,4字節(jié))。可表示27484個文字。范圍:1字節(jié)從00到7F; 2字節(jié)高字節(jié)從81到FE,低字節(jié)從40到7E和80到FE;4字節(jié)第一三字節(jié)從81到FE,第二四字節(jié)從30到39。UCS字符集作用:國際標(biāo)準(zhǔn) ISO 10646 定義了通用字符集 (Universal Character Set)。它是與UNICODE同類的組織,UCS-2和UNICODE兼容。位數(shù):它有UCS-2和UCS-4兩種格式,分別是2字節(jié)和4字節(jié)。范圍:目前,UCS-4只是在UCS-2前面加了0×0000。UNICODE字符集作用:為世界650種語言進(jìn)行統(tǒng)一編碼,兼容ISO-8859-1。位數(shù):UNICODE字符集有多個編碼方式,分別是UTF-8,UTF-16和UTF-32。2 ,按所表示的文字分類語言                                 字符集                                     正式名稱英語、西歐語                     ASCII,ISO-8859-1                MBCS 多字節(jié)簡體中文                             GB2312                                    MBCS 多字節(jié)繁體中文                             BIG5                                         MBCS 多字節(jié)簡繁中文                             GBK                                         MBCS 多字節(jié)中文、日文及朝鮮語         GB18030                                  MBCS 多字節(jié)各國語言                             UNICODE,UCS                    DBCS 寬字節(jié)

三,編碼UTF-8:采用變長字節(jié) (1 ASCII, 2 希臘字母, 3 漢字, 4 平面符號) 表示,網(wǎng)絡(luò)傳輸, 即使錯了一個字節(jié),不影響其他字節(jié),而雙字節(jié)只要一個錯了,其他也錯了,具體如下:如果只有一個字節(jié)則其最高二進(jìn)制位為0;如果是多字節(jié),其第一個字節(jié)從最高位開始,連續(xù)的二進(jìn)制位值為1的個數(shù)決定了其編碼的字節(jié)數(shù),其余各字節(jié)均以10開頭。UTF-8最多可用到6個字節(jié)。

UTF-16:采用2字節(jié),Unicode中不同部分的字符都同樣基于現(xiàn)有的標(biāo)準(zhǔn)。這是為了便于轉(zhuǎn)換。從 0×0000到0×007F是ASCII字符,從0×0080到0×00FF是ISO-8859-1對ASCII的擴(kuò)展。希臘字母表使用從0×0370到 0×03FF 的代碼,斯拉夫語使用從0×0400到0×04FF的代碼,美國使用從0×0530到0×058F的代碼,希伯來語使用從0×0590到0×05FF的代 碼。中國、日本和韓國的象形文字(總稱為CJK)占用了從0×3000到0×9FFF的代碼;由于0×00在C語言及操作系統(tǒng)文件名等中有特殊意義,故很 多情況下需要UTF-8編碼保存文本,去掉這個0×00。舉例如下:UTF-16: 0×0080  = 0000 0000 1000 0000UTF-8:   0xC280 = 1100 0010 1000 0000UTF-32:采用4字節(jié)。優(yōu)缺點(diǎn)UTF-8、UTF-16和UTF-32都可以表示有效編碼空間 (U+000000-U+10FFFF) 內(nèi)的所有Unicode字符。使用UTF-8編碼時ASCII字符只占1個字節(jié),存儲效率比較高,適用于拉丁字符較多的場合以節(jié)省空間。對于大多數(shù)非拉丁字符(如中文和日文)來說,UTF-16所需存儲空間最小,每個字符只占2個字節(jié)。Windows NT內(nèi)核是Unicode(UTF-16),采用UTF-16編碼在調(diào)用系統(tǒng)API時無需轉(zhuǎn)換,處理速度也比較快。采用UTF-16和UTF-32會有Big Endian和Little Endian之分,而UTF-8則沒有字節(jié)順序問題,所以UTF-8適合傳輸和通信。UTF-32采用4字節(jié)編碼,一方面處理速度比較快,但另一方面也浪費(fèi)了大量空間,影響傳輸速度,因而很少使用。

四,如何判斷字符集1,字節(jié)序首先說一下字節(jié)序?qū)幋a的影響,字節(jié)序分為Big Endian字節(jié)序和Little Endian字節(jié)序。不同的處理器可能不一樣。所以,傳輸時需要告訴處理器當(dāng)時的編碼字節(jié)序。對于前者而言,高位字節(jié)存在低地址,低字節(jié)存于高地址;后者相反。例如,0X03AB,Big Endian字節(jié)序0000: 0 30001: ABLittle Endian字節(jié)序是0000: AB0001: 0 32,編碼識別UNICODE,根據(jù)前幾個字節(jié)可以判斷UNICODE字符集的各種編碼,叫做Byte Order Mask方法BOM:UTF-8: EFBBBF (符合UTF-8格式,請看上面。但沒有含義在UCS即UNICODE中)UTF-16 Big Endian:FEFF (沒有含義在UCS-2中)UTF-16 Little Endian:FFFE (沒有含義在UCS-2中)UTF-32 Big Endian:0000FEFF (沒有含義在UCS-4中)UTF-32 Little Endian:FFFE0000 (沒有含義在UCS-4中)

GB2312:高字節(jié)和低字節(jié)的第1位都是1。

BIG5,GBK&GB18030:高字節(jié)的第1位為1。操作系統(tǒng)有默認(rèn)的編碼,常為GBK,可以下載別的并升級。通過判斷高字節(jié)的第1位從而知道是ASCII或者漢字編碼。

來自 http://blog.csdn.NET/zhoubl668/article/details/6914183
發(fā)表評論 共有條評論
用戶名: 密碼:
驗(yàn)證碼: 匿名發(fā)表
主站蜘蛛池模板: 莱州市| 三穗县| 镇沅| 湖口县| 昭平县| 霍山县| 岳普湖县| 济南市| 丹寨县| 都江堰市| 迁西县| 曲松县| 稷山县| 北票市| 广河县| 泰来县| 宜兰市| 渭源县| 灵川县| 嵊州市| 卢湾区| 融水| 海南省| 榆树市| 宜宾市| 庄浪县| 鄯善县| 望谟县| 银川市| 西林县| 通江县| 都江堰市| 南城县| 文安县| 德令哈市| 郑州市| 阳西县| 基隆市| 禹州市| 巴里| 京山县|