训练数据怎么做版本管理?用 DVC 跟踪数据文件并回退

在练习 Git 仓库用 DVC 跟踪训练数据,提交两个数据版本并恢复第一版。

训练数据会不断修订。仅在笔记里写“第二版”很难保证代码、数据和实验结果对应。DVC 可以把大数据文件留在 DVC 缓存里,用小的 .dvc 元数据文件随 Git 记录版本。下面用自建的小 CSV 演示跟踪与回退,依据 DVC 官方入门文档;操作会改动当前目录,请在新建的练习仓库运行。

初始化并跟踪第一版

先安装 Git 与 DVC,并确认命令可用。进入一个新目录,按顺序运行:

训练数据怎么做版本管理?用 DVC 跟踪数据文件并回退

git init
dvc init
git add .dvc .dvcignore
git commit -m "Initialize DVC"
mkdir data

在 data/train.csv 保存两行示例内容:第一行 text,label,第二行 hello,1。然后执行:

dvc add data/train.csv
git add data/train.csv.dvc data/.gitignore
git commit -m "Track training data v1"

执行 git status,确认元数据文件已提交。DVC 官方说明,dvc add 产生的 .dvc 文件记录数据状态,原始数据文件由 Git 忽略并放在 DVC 缓存中;团队共享时还需要配置并推送远端存储,单靠 Git 提交并不保证其他电脑有数据。

改动后提交第二版

给 CSV 再加一行 world,0,执行:

dvc add data/train.csv
git add data/train.csv.dvc
git commit -m "Update training data v2"

这一步的验证方法是查看 Git 历史里有两次数据元数据提交,并确认工作区 CSV 现在有两条样本。示例数据是人为编造,只用于演示版本变化。

回退到第一版并核对

确认当前没有要保留的未提交改动后,执行:

git checkout HEAD~1 -- data/train.csv.dvc
dvc checkout

再打开 data/train.csv,应该只剩 hello,1 这一条样本。DVC 官方入门文档使用“先切换对应的 .dvc 文件,再运行 dvc checkout”恢复工作区数据。若缓存里没有旧版数据,先从已配置的远端获取,不能把 Git 元数据当成数据备份。

在正式项目执行回退前,先确认目录、分支、未提交文件与团队远端;对共享数据不要直接照搬这个练习命令。DVC 管理的是数据版本与取回路径,不负责判断数据许可、标注质量或训练是否有效。

Ai菜鸟网。发布者:AI小管家,转载请注明出处:https://www.alyyhw.com/29866.html

赞 (0)
AI小管家的头像AI小管家
AI 训练数据集怎么清洗和切分?用 Datasets 过滤、映射并保存
上一篇 1天前
PyTorch 混合精度训练怎么用?接入 autocast 与 GradScaler
下一篇 1天前

相关推荐

联系我们

联系我们

1

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
关注微信
分享本页
返回顶部