Python抓取时怎么样抓取中文编码
Admin 2022-07-15 群英技术资讯 723 次浏览
这篇文章主要讲解了“Python抓取时怎么样抓取中文编码”，文中的讲解内容简单、清晰、详细，对大家学习或是工作可能会有一定的帮助，希望大家阅读完这篇文章能有所收获。下面就请大家跟着小编的思路一起来学习一下吧。在开发自用爬虫过程中，有的网页是utf-8，有的是gb2312,有的是gbk，如果不加处理，采集到的都是乱码，解决的方法是将html处理成统一的utf-8编码
版本python2.7
#coding:utf-8
import chardet
#抓取网页html
line = "http://www.pythontab.com"
html_1 = urllib2.urlopen(line,timeout=120).read()
encoding_dict = chardet.detect(html_1)
print encoding
web_encoding = encoding_dict['encoding']
#处理，整个html就不会是乱码。
if web_encoding == 'utf-8' or web_encoding == 'UTF-8':
html = html_1
else :
html = html_1.decode('gbk','ignore').encode('utf-8')
这篇关于“Python抓取时怎么样抓取中文编码”的文章就介绍到这了,更多相关的内容，欢迎关注群英网络，小编将为大家输出更多高质量的实用文章！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：mmqy2019@163.com进行举报，并提供相关证据，查实之后，将立刻删除涉嫌侵权内容。
猜你喜欢
-
python怎样实现九宫格图片？
python怎样实现九宫格图片？我们常常能在朋友圈看到一张图片分成九宫格的图片，很多朋友都觉得挺有意思的，那么这是怎样做的呢？下面我们就来看看用Python怎样实现九宫格图片功能。
-
Python打印类的属性和方法怎样做,代码是什么
内容介绍打印类的所有属性和方法python中更多种类的打印1.print(
-
python如何实现跳表？跳表的添加、删除、查找怎样实现？
这篇文章主要介绍python实现跳表的内容，一些朋友可能对跳表是什么不是很了解，对此，接下来我们现了解一下跳表，再看python如何实现跳表，感兴趣的朋友就继续往下看吧。
-
Python中常用异步框架有几种，用法是怎样
asyncio 在单线程内部维护了 EventLoop 队列，然后把需要执行异步IO的任务添加到 EventLoop 队列中，至于任务的完成通过类似回调的逻辑是实现后续的任务。如果你有 JavaScript的基础那么理解python的 asyncio 很简单，关键字、语法以及实现的原理都极其类似。
-
Python中的missing()函数有何用处，及用法是什么
大家好，本篇文章主要讲的是Python中最神秘missing()函数介绍，感兴趣的同学赶快来看一看吧，对你有帮助的话记得收藏一下，方便下次浏览
推荐内容
成为群英会员,开启智能安全云计算之旅
立即注册
Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008
