Unicode字符的UTF-8、UTF-16、UTF-32编码方式

《Unicode字符的UTF-8、UTF-16、UTF-32编码方式》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、Unicode字符的UTF-8、UTF-16、UTF-32编码方式Unicode（统一码、万国码、单一码）是一种在计算机上使用的字符编码。它为每种语言中的每个字符设定了统一并且唯一的二进制代码，以满足跨语言、跨平台进行文本转换、处理的要求。1990年开始研发，1994年正式公布。随着计算机工作能力的增强，Unicode也在面世以来的十多年里得到普及。Unicode是基于通用字符集（UniversalCharacterSet）的标准来发展，并且同时也以书本的形式（TheUnicodeStandard，目前第五版由Addison-W

2、esleyProfessional出版，ISBN-10:0321480910）对外发表。2006年6月的最新版本的Unicode是2005年3月31日推出的Unicode4.1.0。另外，5.0Beta于2005年12月12日推出，5.2版本（unicodestandard）于2009年10月1日正式推出，以供各会员评价。一、Unicode的编码和实现大概来说，Unicode编码系统可分为编码方式和实现方式两个层次。1.编码方式Unicode是国际组织制定的可以容纳世界上所有文字和符号的字符编码方案。Unicode用数字0-0x

3、10FFFF来映射这些字符，最多可以容纳1114112个字符，或者说有1114112个编码位置，简称码位。码位就是可以分配给字符的数字。UTF-8、UTF-16、UTF-32都是将这个数字转换到程序数据的编码方案。Unicode字符集可以简写为UCS（UnicodeCharacterSet）。早期的Unicode标准有UCS-2、UCS-4的说法。UCS-2用两个字节编码，UCS-4用4个字节编码。UCS-4根据最高位为0的最高字节分成27=128个group,每个group再根据次高字节分为256个平面（plane）。每个平面

4、根据第3个字节分为256行（row），每行有256个码位（cell）。group0的平面0被称作BMP（BasicMultilingualPlane）。将UCS-4的BMP去掉前面的两个零字节就得到了UCS-2。每个平面有216=65536个码位。Unicode计划使用了17个平面，一共有17*65536=1114112个码位。在Unicode5.0.0版本中，已定义的码位只有238605个，分布在平面0、平面1、平面2、平面14、平面15、平面16。其中平面15和平面16上只是定义了两个各占65534个码位的专用区（Priva

5、teUseArea），分别是0xF0000-0xFFFFD和0x100000-0x10FFFD。所谓专用区，就是保留给大家放自定义字符的区域，可以简写为PUA。平面0也有一个专用区：0xE000-0xF8FF，有6400个码位。平面0的0xD800-0xDFFF，共2048个码位，是一个被称作代理区（Surrogate）的特殊区域。代理区的目的用两个UTF-16字符表示BMP以外的字符。在介绍UTF-16编码时会介绍。如前所述在Unicode5.0.0版本中，238605-65534*2-6400-2408=99089。余下的9

6、9089个已定义码位分布在平面0、平面1、平面2和平面14上，它们对应着Unicode目前定义的99089个字符，其中包括71226个汉字。平面0、平面1、平面2和平面14上分别定义了52080、3419、43253和337个字符。平面2的43253个字符都是汉字。平面0上定义了27973个汉字。2.实现方式在9Unicode中：汉字“字”对应的数字是23383。在Unicode中，我们有很多方式将数字23383表示成程序中的数据，包括：UTF-8、UTF-16、UTF-32。UTF是“UCSTransformationForm

7、at”的缩写，可以翻译成Unicode字符集转换格式，即怎样将Unicode定义的数字转换成程序数据。例如，“汉字”对应的数字是0x6c49和0x5b57，而编码的程序数据是：BYTEdata_utf8[]={0xE6,0xB1,0x89,0xE5,0xAD,0x97};//UTF-8编码WORDdata_utf16[]={0x6c49,0x5b57};//UTF-16编码DWORDdata_utf32[]={0x6c49,0x5b57};//UTF-32编码这里用BYTE、WORD、DWORD分别表示无符号8位整数，无符号16

8、位整数和无符号32位整数。UTF-8、UTF-16、UTF-32分别以BYTE、WORD、DWORD作为编码单位。“汉字”的UTF-8编码需要6个字节。“汉字”的UTF-16编码需要两个WORD，大小是4个字节。“汉字”的UTF-32编码需要两个DWORD，大小