必须分块读取,推荐8192或65536字节块大小,以rb模式打开文件,循环调用update(),最后用hexdigest()获取32位小写十六进制字符串;校验时需strip().lower()统一格式并做长度校验。
用 hashlib.md5() 读取文件并计算校验和
直接调用 hashlib.md5() 并传入整个文件内容(比如 md5.update(f.read()))在大文件上会爆内存。必须分块读取,常见块大小是 8192 或 65536 字节——既避免频繁系统调用,又不占用过多内存。
实操建议:
- 打开文件用
rb模式,二进制读取才能保证字节一致 - 每次
f.read(chunk_size),空字符串表示读完,跳出循环 - 别忘了最后调用
md5.hexdigest()获取 32 位小写十六进制字符串
import hashlib
def calc_md5(filepath):
md5 = hashlib.md5()
with open(filepath, "rb") as f:
for chunk in iter(lambda: f.read(8192), b""):
md5.update(chunk)
return md5.hexdigest()
校验时比对字符串要忽略大小写和空白符
用户提供的参考 MD5 值可能来自不同工具:Linux md5sum 输出带空格和路径,Windows PowerShell 的 Get-FileHash 默认输出大写,有些网页表单还带前后空格。直接用 == 比对大概率失败。
实操建议:
- 用
.strip().lower()统一处理参考值和计算值 - 可加长度校验:
len(candidate) != 32直接报错,避免把错误格式当哈希比对 - 不要用
.upper(),因为 RFC 和绝大多数工具默认输出小写
验证失败时别只抛 AssertionError
生产环境里,仅靠 assert calc_md5(f) == expected 不仅无法提供上下文,还会在 -O 模式下被完全移除。出问题时连哪条文件、预期值是多少都看不到。
Python 3.14.3
微软官方的 Python 扩展,是 VS Code 安装量最高的扩展(209M+)。集成 IntelliSense(通过 Pylance)、调试(通过 Python Debugger)、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。
实操建议:
- 用明确异常,比如
raise ValueError(f"MD5 mismatch for {filepath}: got {actual}, expected {expected}") - 如果批量校验,记录失败项到列表,最后统一打印,别遇到第一个错就中断
- 考虑加个
strict=False参数,允许跳过损坏文件继续处理
注意 Windows 上的换行符和符号链接陷阱
open() 在文本模式下会自动转换 \r\n → \n,但 MD5 必须基于原始字节;符号链接若没设 follow_symlinks=False(默认为 True),os.stat() 可能误判文件大小,但更危险的是:某些备份工具会把符号链接本身当作文件内容来哈希,而 Python 默认跟随链接读目标内容——两边规则不一致就校验不过。
实操建议:
- 始终用
rb模式打开,彻底避开换行符干扰 - 若需校验链接自身(而非目标),用
os.readlink()读路径字符串再哈希,或改用pathlib.Path(filepath).read_bytes()(它不跟随符号链接) - 用
os.path.islink(filepath)提前检测,按策略分支处理
实际用的时候,最常漏掉的是分块读取和大小写归一化——前者让程序在几百 MB 文件上卡死,后者让校验永远“失败”。
就爱读