Python抓取时怎么样抓取中文编码
Admin 2022-07-15 群英技术资讯 484 次浏览
这篇文章主要讲解了“Python抓取时怎么样抓取中文编码”，文中的讲解内容简单、清晰、详细，对大家学习或是工作可能会有一定的帮助，希望大家阅读完这篇文章能有所收获。下面就请大家跟着小编的思路一起来学习一下吧。在开发自用爬虫过程中，有的网页是utf-8，有的是gb2312,有的是gbk，如果不加处理，采集到的都是乱码，解决的方法是将html处理成统一的utf-8编码
版本python2.7
#coding:utf-8
import chardet
#抓取网页html
line = "http://www.pythontab.com"
html_1 = urllib2.urlopen(line,timeout=120).read()
encoding_dict = chardet.detect(html_1)
print encoding
web_encoding = encoding_dict['encoding']
#处理，整个html就不会是乱码。
if web_encoding == 'utf-8' or web_encoding == 'UTF-8':
html = html_1
else :
html = html_1.decode('gbk','ignore').encode('utf-8')
这篇关于“Python抓取时怎么样抓取中文编码”的文章就介绍到这了,更多相关的内容，欢迎关注群英网络，小编将为大家输出更多高质量的实用文章！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：mmqy2019@163.com进行举报，并提供相关证据，查实之后，将立刻删除涉嫌侵权内容。
猜你喜欢
-
Python怎样快速实现繁体转简体，方法是什么
工作中需要将繁体中文转换成简体中文上网找了些资料,下面这篇文章主要给大家介绍了关于Python实现简繁体转换的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
-
Python的pop和remove方法用于什么，使用有何区别
python中删除列表有pop()与remove()两种方法，而且他们都是原位操作。但是他们还是有区别的。pop()是按位进行删除；传递的是待删除元素的index；会返回被删除的值。而remove()是按照值来删除；传递待删除元素，如果多个元素一样，默认删除第一个；不会返回被删除的值。
-
Python中如何进行数据分组
这篇文章主要和大家详细介绍一下Python是如何优雅地对数据进行分组的，文中通过示例进行了详细的讲解，感兴趣的小伙伴可以跟随小编一起学习一下
-
Python中怎么用matplotlib绘制等高线图，具体方法是什么
在matplotlib.pyplot中除了可以绘制常规图表如折线、柱状、散点等，还可以绘制常用在地理上的平面展示地型的等高线图，本文主要为大家介绍了如何利用matplotlib绘制等高线图，需要的可以参考一下
-
Python字符串报错出现乱码怎么办，如何解决
为什么会报错“UnicodeEncodeError: & 39;ascii& 39; codec can& 39;t encode characters in position 0-1: ordinal not in ra
推荐内容
成为群英会员,开启智能安全云计算之旅
立即注册
Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008
