博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
笔记四:python乱码深度剖析二
阅读量:4950 次
发布时间:2019-06-11

本文共 2747 字,大约阅读时间需要 9 分钟。

一:学习内容

  • 获取更改系统编码
  • 判断字符的编码类型
  • 文件存储和读取的编码

 

二:获取更改系统编码

1. 获取系统编码

import sys

print sys.getdefaultencoding()

 

2. 更改系统编码

#encoding=utf-8

import sys

reload(sys)

sys.setdefaultencoding('UTF-8')

print 1,sys.getdefaultencoding()

print 2,type(u"")

print 3,type("")

print 4,u""

print 5,""

print 6,u"".encode('utf-8')

print 7,u"".decode('utf-8')

print 8,"".encode('utf-8').decode('utf-8')

print 9,"".decode('utf-8').encode('gbk')

print 10,"".encode('gbk')

运行结果为:

 

问题一:为什么要reload sys模块

在site.py文件里有这么一段代码:

if hasattr(sys, "setdefaultencoding"):

  del sys.setdefaultencoding

在sys加载后,setdefaultencoding方法被删除了,所以我们要通过重新导入sys来设置系统编码。

 

问题二:为什么print 4,u"我"可以打印正常,print 5,"我"打印乱码

字符串的打印,python的逻辑为:如果是unicode字符串,则可以自动编码为终端所用编码,然后正确显示出来。所以u"我"实际上将"我"进行了decode成了unicode字符,然后python将unicode字符串自动化编码为gbk(我的cmd的编码)

而print 5,”我”,字符串编码为utf-8类型(文件保存的类型),输出到cmdgbk类型的终端上,则无法显示。

 

问题三:为什么print 8,"我".encode('utf-8').decode('utf-8')可以打印正常,print 6,u"我".encode('utf-8')打印乱码

因为我是str类型,在encodepython自动会用默认编码(setdefaultencoding)进行decode为unicode类型,但是如果默认编码为ascii,是不支持decode的。

可以看到文件里修改了默认编码为utf-8,所以"我".encode('utf-8').decode('utf-8')这句首先会decode('utf-8')为unicode类型,然后在encode('utf-8').decode('utf-8'),此时”我”已经变成了unicode类型,如果是unicode字符串,则可以自动编码为终端所用编码(这是问题一中提到的),这样就能输出到cmd终端了。

然后我们再说为什么print 6,u"我".encode('utf-8')会乱码呢,上面已经讲了在encode('utf-8')之前会decode('utf-8')为unicode类型,然后在执行.encode('utf-8'),此时”我”会被编码成utf-8,然后print输出到cmd的gbk终端,由于编码不统一,就会乱码。

 

三:判断字符的编码类型

1. chardet.detect(字符内容)

#encoding=utf-8

import chardet

import urllib

TestData = urllib.urlopen('http://www.baidu.com/').read()

print chardet.detect(TestData)

发现打印字符编码类型为utf-8。

 

2. import chardet如果报错ImportError: No Module named chardet,则需要下载安装该模块,步骤为:

第一步:在https://pypi.python.org/pypi/chardet#downloads下载chardet-2.1.1.tar.gz

 

第二步:解压 chardet-2.1.1.tar.gz文件\Lib\site-packages下

 

第三步:安装 chardet模块,进入到python\Lib\site-packages\chardet-2.3.0路径下,执行python setup.py install

这样就完成chardet模块安装了,此时你可以在去运行上面的文件。

 

四:文件存储和读取的编码

1. 计算机内存中,统一使用unicode编码,当需要保存到硬盘需要传输时候,就转换UTF-8编码

2. 用记事本编辑的时候,从文件读取的UTF-8字符被转换为Unicode字符到内存里,编辑完成后,保存的时候unicode转换为UTF-8保存到文件

 

3. 浏览网页的时候,服务会把动态生成unicode内容转换UTF-8传输到浏览器

很多网页源码会有类似<meta charset='utf-8'/>信息表示网页正是用的UTF-8编码

 

小记:

a.  在utf-8文件中,则这个字符串就是utf-8编码的,它的编码取决与当前的文本编码

b.  GB2312文本的编码就是GB2312

c.  在同一个文本中进行两种编码的输出等操作就必须进行编码的转换先用decode将文本原来的编码转换成unicodeencode将编码转换成需要转换成的编码

d.  实例练习:

手工创建一个文件如a.txt,ansi编码保存即gbk,然后取出数据变成utf-8编码保存到b.txt文件中,查看b.txt文件编码为utf-8

#encoding=utf-8

f=open('C:\\Users\\yumeiling\\Desktop\\a.txt','r')

data=f.read()

temp = data.decode('gbk')

f.close()

f=open('C:\\Users\\yumeiling\\Desktop\\b.txt','w')

temps=temp.encode('utf-8')

f.write(temps) #写入utf-8字符,并进行保存

f.close()

运行结果为:查看b.txt文件

这样执行后,发现生成了b.txt文件,文件的编码为改成了utf-8编码。

 

转载于:https://www.cnblogs.com/miaomiaokaixin/p/6590417.html

你可能感兴趣的文章
红黑树
查看>>
【数据库】
查看>>
WindowManager.LayoutParams 详解
查看>>
安卓中数据库的搭建与使用
查看>>
.NET 设计规范--.NET约定、惯用法与模式-2.框架设计基础
查看>>
sql 内联,左联,右联,全联
查看>>
C++关于字符串的处理
查看>>
Breaking parallel loops in .NET C# using the Stop method z
查看>>
[轉]redis;mongodb;memcache三者的性能比較
查看>>
让你的WPF程序在Win7下呈现Win8风格主题
查看>>
构建Docker Compose服务堆栈
查看>>
浮点数内存如何存储的
查看>>
JsonCpp 的使用
查看>>
问题账户需求分析
查看>>
hp 服务器通过串口重定向功能的使用
查看>>
此博客不再发表对自己私事的看法
查看>>
导致Asp.Net站点重启的10个原因
查看>>
【PMP】Head First PMP 学习笔记 第一章 引言
查看>>
抓住云机遇编排工作 搞定复杂IT工作流
查看>>
MYSQL的longtext字段能放多少数据?
查看>>