随笔-16  评论-116  文章-0  trackbacks-0

转载请注明出处http://www.cppblog.com/greatws/archive/2008/08/31/60546.html

最近有人问我关于这个的问题,就此写一篇blog

Ansi字符串我们最熟悉,英文占一个字节,汉字2个字节,以一个\0结尾,常用于txt文本文件
Unicode字符串,每个字符(汉字、英文字母)都占2个字节,以2个连续的\0结尾,NT操作系统内核用的是这种字符串,常被定义为typedef unsigned short wchar_t;所以我们有时常会见到什么char*无法转换为unsigned short*之类的错误,其实就是unicode
UTF8是Unicode一种压缩形式,英文A在unicode中表示为0x0041,老外觉得这种存储方式太浪费,因为浪费了50%的空间,于是就把英文压缩成1个字节,成了utf8编码,但是汉字在utf8中占3个字节,显然用做中文不如ansi合算,这就是中国的网页用作ansi编码而老外的网页常用utf8的原因。
UTF8在还游戏里运用的很广泛,比如WOW的lua脚本等

下面来说一下转换,主要用代码来说明吧
写文件我用了CFile类,其实用FILE*之类的也是一样,写文件和字符串什么类别没有关系,硬件只关心数据和长度

Ansi转Unicode
介绍2种方法


void CConvertDlg::OnBnClickedButtonAnsiToUnicode()
{
    
// ansi to unicode
    char* szAnsi = "abcd1234你我他";
    
//预转换,得到所需空间的大小
    int wcsLen = ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), NULL, 0);
    
//分配空间要给'\0'留个空间,MultiByteToWideChar不会给'\0'空间
    wchar_t* wszString = new wchar_t[wcsLen + 1];
    
//转换
    ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), wszString, wcsLen);
    
//最后加上'\0'
    wszString[wcsLen] = '\0';
    
//unicode版的MessageBox API
    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

    
//接下来写入文本
    
//写文本文件,头2个字节0xfeff,低位0xff写在前
    CFile cFile;
    cFile.Open(_T(
"1.txt"), CFile::modeWrite | CFile::modeCreate);
    
//文件开头
    cFile.SeekToBegin();
    cFile.Write(
"\xff\xfe"2);
    
//写入内容
    cFile.Write(wszString, wcsLen * sizeof(wchar_t));
    cFile.Flush();
    cFile.Close();
    delete[] wszString;
    wszString 
=NULL;


    
//方法2
    
//设置当前地域信息,不设置的话,使用这种方法,中文不会正确显示
    
//需要#include<locale.h>
    setlocale(LC_CTYPE, "chs"); 
    wchar_t wcsStr[
100];
    
//注意下面是大写S,在unicode中,代表后面是ansi字符串
    
//swprintf是sprintf的unicode版本
    
//格式的前面要加大写L,代表是unicode
    swprintf(wcsStr, L"%S", szAnsi);
    ::MessageBoxW(GetSafeHwnd(), wcsStr, wcsStr, MB_OK);

}


Unicode转Ansi
也是2种方法

void CConvertDlg::OnBnClickedButtonUnicodeToAnsi()
{
    
// unicode to ansi
    wchar_t* wszString = L"abcd1234你我他";
    
//预转换,得到所需空间的大小,这次用的函数和上面名字相反
    int ansiLen = ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);
    
//同上,分配空间要给'\0'留个空间
    char* szAnsi = new char[ansiLen + 1];
    
//转换
    
//unicode版对应的strlen是wcslen
    ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), szAnsi, ansiLen, NULL, NULL);
    
//最后加上'\0'
    szAnsi[ansiLen] = '\0';
    
//Ansi版的MessageBox API
    ::MessageBoxA(GetSafeHwnd(), szAnsi, szAnsi, MB_OK);

    
//接下来写入文本
    
//写文本文件,ANSI文件没有BOM
    CFile cFile;
    cFile.Open(_T(
"1.txt"), CFile::modeWrite | CFile::modeCreate);
    
//文件开头
    cFile.SeekToBegin();
    
//写入内容
    cFile.Write(szAnsi, ansiLen * sizeof(char));
    cFile.Flush();
    cFile.Close();
    delete[] szAnsi;
    szAnsi 
=NULL;


    
//方法2
    
//和上面一样有另一种方法
    setlocale(LC_CTYPE, "chs"); 
    
char szStr[100];
    
//注意下面是大写,在ansi中,代表后面是unicode字符串
    
//sprintf
    sprintf(szStr, "%S", wszString);
    ::MessageBoxA(GetSafeHwnd(), szStr, szStr, MB_OK);
}


Unicode转UTF8

void CConvertDlg::OnBnClickedButtonUnicodeToU8()
{
    
// unicode to UTF8
    wchar_t* wszString = L"abcd1234你我他";
    
//预转换,得到所需空间的大小,这次用的函数和上面名字相反
    int u8Len = ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);
    
//同上,分配空间要给'\0'留个空间
    
//UTF8虽然是Unicode的压缩形式,但也是多字节字符串,所以可以以char的形式保存
    char* szU8 = new char[u8Len + 1];
    
//转换
    
//unicode版对应的strlen是wcslen
    ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), szU8, u8Len, NULL, NULL);
    
//最后加上'\0'
    szU8[u8Len] = '\0';
    
//MessageBox不支持UTF8,所以只能写文件

    
//接下来写入文本
    
//写文本文件,UTF8的BOM是0xbfbbef
    CFile cFile;
    cFile.Open(_T(
"1.txt"), CFile::modeWrite | CFile::modeCreate);
    
//文件开头
    cFile.SeekToBegin();
    
//写BOM,同样低位写在前
    cFile.Write("\xef\xbb\xbf"3);
    
//写入内容
    cFile.Write(szU8, u8Len * sizeof(char));
    cFile.Flush();
    cFile.Close();
    delete[] szU8;
    szU8 
=NULL;

}

UTF8转UNICODE

void CConvertDlg::OnBnClickedButtonU8ToUnicode()
{
    
//UTF8 to Unicode
    
//由于中文直接复制过来会成乱码,编译器有时会报错,故采用16进制形式
    char* szU8 = "abcd1234\xe4\xbd\xa0\xe6\x88\x91\xe4\xbb\x96\x00";
    
//预转换,得到所需空间的大小
    int wcsLen = ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), NULL, 0);
    
//分配空间要给'\0'留个空间,MultiByteToWideChar不会给'\0'空间
    wchar_t* wszString = new wchar_t[wcsLen + 1];
    
//转换
    ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), wszString, wcsLen);
    
//最后加上'\0'
    wszString[wcsLen] = '\0';
    
//unicode版的MessageBox API
    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

    
//写文本同ansi to unicode
}



Ansi转换utf8和utf8转换Ansi就是上面2个的结合,把unicode作为中间量,进行2次转换即可

by greatws
posted on 2008-08-31 22:29 greatws 阅读(24703) 评论(26)  编辑 收藏 引用

评论:
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-01 10:49 | 土仔
很好,先收藏了。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-01 11:32 | Baige
UTF8 主要是为了兼容老的字符串相关的函数。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-01 20:20 | www.helpsoff.com.cn
@Baige
第一次听到这种说法,愿闻其详?  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-02 09:46 | Baige
@www.helpsoff.com.cn
老的字符串处理函数都是按字节处理,以0字节结尾。
但是unicode对于英文字符会以0字节开头,这样会导致老的字符处理函数出问题,所以,为了避免老的代码出问题,就发展出了utf8这种编码,它直接可以被老的字符处理函数处理,而不需要去更改任何代码。
  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-02 22:38 | greatws
@Baige
你说的0字节开头是big-endian的情况,x86都是little-endian,little-endian的话,在内存中是地位在前的,也就是说第一个字节存储字母的ASCII码值,第二个字节才是0。utf8编码主要还是为了节省空间  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件[未登录] 2008-09-04 14:34 | 黄超
确实不错学习了  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-09-07 15:01 | 沈臻豪(foxtail)
msdn上有个例子UTF8 Helpers讲的就是这些  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-11-27 09:21 | 卡通服装
很有价值,收藏了  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-12-02 14:18 | 蒸汽减压阀
不错学习了  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2008-12-20 02:52 | 张华
能再写个读ANSI文本再转成UNICODE的例子吗?我自己搞的读出来的文本后面总带几个乱码。谢谢  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2009-01-16 09:49 | matrix
utf8还有一个很重要的作用:网络传输有可能出现异常,例如丢失一个字节。这种情况下unicode或者ANSI编码的文本后面就全乱了,全是乱码。但utf8则没有问题,至多在丢失字符的附近出现一两个乱码。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2009-04-14 16:19 | 包装机
记得我当时研究了很久呢  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2009-07-27 13:35 | 套袋收缩机
哦,你真不错,,真是实用,  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2010-06-12 14:24 | hywork
上海妙奇卡通服饰公司是专业生产、租售、[url=http://www.mikeycartoon.com/]订做卡通服装[/url]、

卡通服饰、人偶服装、动物服装、道具服装、玩具服装、公仔服装、表演服装、儿童卡通服装的大型卡通

服装公司。我司生产的卡通服装工艺精湛,卡通造型栩栩如生,并有透气性好,行动自如,易清洗。产品

常年远销东南亚、欧美等国家,赢得众多客商的青睐。
网址:www.mikeycartoon.com  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2010-09-19 15:08 | 消防器材
不错不错  回复  更多评论
  
# 很不错的讨论 2010-12-01 12:29 | 杭州驾校
不错不错。。。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-01-06 16:39 | inana
你的博文写的很好,我去试验一下  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-02-09 17:23 | spanish translation
听着貌似有道理。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-03-12 16:43 | szxwjx
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-03-12 16:43 | szxwjx
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件[未登录] 2011-05-31 11:34 | zzz
确实是好文章,条理和原理都很清晰,对我有帮助  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-06-03 14:13 | 除湿机
· 北京市版权局:网站传播侵权作品将被约谈
· 传Zynga与高盛谈IPO事宜 拟月底提交上市申请
· 5个最成功的Hadoop项目推荐
· iPad 游戏让摄影师有新的收入方式
· Win8处女秀版本为Build 7985 新界面Immersive初探
  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-06-03 14:14 | 工业除湿机
除湿机、工业除湿机、加湿机、工业加湿机、恒温恒湿机、轮转除湿机、加湿器、工业加湿器 http://www.zjsongjing.com
杭州投影机,杭州投影机维修,杭州投影机出租,投影机价格,会议系统
http://www.hzyous.com  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2011-12-22 00:00 | 我爱你
你好博主同志。
你的文章太好了,解我所急啊。。
但我从vs2005 c++上试了一下,好像这两个windows api编译时参数不对.编译通不过,咋会事呢?具体的错误提示我记不清了,但我好像记得,这个在vc60下没问题,但2005中,这两个函数MultiToWideChar和WideCharToMultiByte的参数都不一样,为啥呢,你有空解答一下。谢。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2013-01-17 14:39 | 霍玉闪
为什么我用了之后读取的东西变少了呢
原本4页得文档转换之后只能显示2页?
急需恢复。
谢谢  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2013-01-22 08:41 | slip rings
这都差不多嘛  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2013-01-22 08:42 | slip rings
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2013-03-26 16:21 | slip ring
很详细,很不懂Ansi、Unicode、UTF8字符串之间的转换,今天学习了。可是博主的文章,为什么都不更新啊。  回复  更多评论
  
# re: Ansi、Unicode、UTF8字符串之间的转换和写入文本文件 2013-04-06 16:23 | home page
Have no idea which writing centre to choose to obtain help from? Look over TopWritingService testimonials, and take a wise decision.  回复  更多评论
  

只有注册用户登录后才能发表评论。
网站导航: 博客园   IT新闻   BlogJava   知识库   博问   管理