Python内存映射文件读写方式

站长资源 2024/11/24 佚名

2 0 1

我就废话不多说了，还是直接看代码吧！

import os
import time
import mmap
 
filename = 'test.txt'
 
#如果不存在，创建。
if not os.path.exists(filename):
 open(filename, 'w')
 
print(os.path.isdir(filename))
if os.path.isfile(filename):
 print(time.ctime(os.path.getctime(filename)))
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字节的文件。
m.seek(2) 
buf1 = bytes(b'Zhang')
m[2:len(buf1)+2] = buf1
 
buf2 = b'Phil'
 
m.seek(20) # 定位写入的位置。
m.write(buf2) # 写入字节数据。
m.close()
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ)
m.seek(20)
buf3 = m.read(len(buf2))
m.close()
print(list(buf3))

操作后的test.txt文件内容：

Zhang Phil

补充知识：Python对二进制文件做内存映射，高效优雅地对内容随机访问

读写二进制文件还在使用open函数？

各种组合seek()、read()和write()累不累？

使用 mmap 模块实现对文件的内存映射，让我们读写二进制文件像操作数组一样高效优雅。

先给出一个实用函数，用来演示如何打开一个文件并对它进行内存映射操作。

def memory_map(filename, access=mmap.ACCESS_WRITE):
 size = os.path.getsize(filename)
 fd = os.open(filename, os.O_RDWR)
 return mmap.mmap(fd, size, access=access)

要使用这个函数，需要先准备一个已经创建好的文件并为之填充一些数据。

> size = 1000000
> with open('data','wb') as f:
  f.seek(size-1)
  f.write(b'\x00')

接着我们可以使用memory_map()函数对文件内容做内存映射，它返回的mmap对象可以让我们像操作数组一样读写二进制文件！

> m = memory_map('data')
> len(m)
1000000
> m[:10]
b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'
> m[0]
0
> m[0:11]=b'Hello World'#改变一个切片
> m.close()
> with open('data','rb') as f:#验证改变已经生效
 print(f.read(11))
 
b'Hello World'

由于mmap()返回的mmap对象也可以当作上下文管理器使用，在这种情况下，底层的文件会自动关闭。

> with memory_map('data') as m:
 print(len(m))
 print(m[0:11])
 
1000000
b'Hello World'

默认情况下memory_map()函数打开的文件既可以读，也可以写。对数据的任何修改都会拷贝回原始的文件中。

如果需要只读访问，可以为access参数提供mmap.ACCESS_READ值。

m = memory_map(filename, mmap.ACCESS_READ)

如果只想要在本地修改数据，并不想将这些修改写回到原始文件中，可以使用mmap.ACCESS_COPY参数。

m = memory_map(filename, mmap.ACCESS_COPY)

总结：

通过mmap将文件映射到内存之后，我们可以高效并优雅地对文件的内容进行随机访问。

与其打开文件后通过组合各种seek()、read()和write()调用来访问，不如简单将文件映射到内存，然后通过切片操作来访问数据。

需要强调的是，对某个文件进行内存映射并不会导致将整个文件读到内存中。也就是说，文件并不会拷贝到某种内存缓冲区或数组上。相反，操作系统只是为文件内容保留一段虚拟内存而已。

当访问文件的不同区域时，文件的这些区域将被读取并按照需要映射到内存区域中。但是，文件中从未访问过的部分会简单地留在磁盘上。这一切都是以透明的方式在幕后完成的。

如果有多个Python解释器对同一个文件做了内存映射，得到的mmap对象可以用来在解释器之间交换数据。也就是说，所有的解释器可以同时读/写数据，在一个解释器中对数据做出的修改会自动反映到其他解释器上。

虽然还需要一些额外的步骤来处理同步问题，但是有时候可以使用这种方法作为通过管道或者socket传输数据的替代方案。

以上这篇Python内存映射文件读写方式就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持。

Python,内存映射文件,读写

广告合作：本站广告合作请联系QQ：858582 申请时备注：广告合作（否则不回）
免责声明：本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除！

评论“Python内存映射文件读写方式”

暂无评论...

《魔兽世界》大逃杀！60人新游玩模式《强袭风暴》3月21日上线

暴雪近日发布了《魔兽世界》10.2.6 更新内容，新游玩模式《强袭风暴》即将于3月21 日在亚服上线，届时玩家将前往阿拉希高地展开一场 60 人大逃杀对战。

艾泽拉斯的冒险者已经征服了艾泽拉斯的大地及遥远的彼岸。他们在对抗世界上最致命的敌人时展现出过人的手腕，并且成功阻止终结宇宙等级的威胁。当他们在为即将于《魔兽世界》资料片《地心之战》中来袭的萨拉塔斯势力做战斗准备时，他们还需要在熟悉的阿拉希高地面对一个全新的敌人──那就是彼此。在《巨龙崛起》10.2.6 更新的《强袭风暴》中，玩家将会进入一个全新的海盗主题大逃杀式限时活动，其中包含极高的风险和史诗级的奖励。
《强袭风暴》不是普通的战场，作为一个独立于主游戏之外的活动，玩家可以用大逃杀的风格来体验《魔兽世界》，不分职业、不分装备（除了你在赛局中捡到的），光是技巧和战略的强弱之分就能决定出谁才是能坚持到最后的赢家。本次活动将会开放单人和双人模式，玩家在加入海盗主题的预赛大厅区域前，可以从强袭风暴角色画面新增好友。游玩游戏将可以累计名望轨迹，《巨龙崛起》和《魔兽世界：巫妖王之怒经典版》的玩家都可以获得奖励。

更新日志

2024年11月24日

Python内存映射文件读写方式

pandas中的ExcelWriter和ExcelFile的实现方法

pandas的resample重采样的使用

评论“Python内存映射文件读写方式”

《魔兽世界》大逃杀！60人新游玩模式《强袭风暴》3月21日上线

更新日志

友情链接