创新互联Python教程:python3过大数据如何读取?

python中读取大文件的方法:

创新互联建站专业为企业提供垦利网站建设、垦利做网站、垦利网站设计、垦利网站制作等企业网站建设、网页设计与制作、垦利企业网站模板建站服务,十年垦利做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。

1、利用yield生成器读取

def readPart(filePath, size=1024, encoding="utf-8"):
    with open(filePath,"r",encoding=encoding) as f:
        while True:
            part = f.read(size)  
            if part:
                yield part
            else:
                return None
filePath = r"filePath"
size = 2048 # 每次读取指定大小的内容到内存
encoding = 'utf-8'
for part in readPart(filePath,size,encoding):
    print(part)
    # Processing data

2、利用open()自带方法生成迭代对象,这个是一行一行的读取

with open(filePath) as f:
    for line in f:
        print(line)
        # Processing data

本文标题:创新互联Python教程:python3过大数据如何读取?
地址分享:http://www.shufengxianlan.com/qtweb/news45/257045.html

成都网站建设公司_创新互联,为您提供品牌网站建设小程序开发网站营销服务器托管企业建站网站设计公司

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联