记一次 GLM 开发严重事故,花了 8 亿 token,买了个教训

21 小时 23 分钟前
 IC0ZB

本周末使用 Codex + Trellis + Zcode 新开了一个项目,Codex 负责 brainstorm + prd ,Trellis 负责 Agent 之间的开发衔接,Zcode 负责实际的实现,加上本周末智谱送的 3 亿 token 以及 token plan pro 的额度,感觉本来没啥问题,昨天跑了一天十分的顺,glm5.3 flash 也是比较快,代码也都用 git 管理,只是没有上传到 github 。

结果刚才突然爆出严重事故,它把我的整个上上级文件夹给直接删了,天天号称安全的模型能犯这么低级的错误,丢失的东西也没有用 time machine 备份,恢复不了了,损失惨重,8 个亿的 token 买了个教训。

希望大家引以为戒吧,

  1. 谨慎使用完全访问,可以使用个有 codex “帮我批准”这种功能的 harness;
  2. 开发目录最好干净一点,不要和别的放在一起,删了也不心疼,不过它要是删/,也没啥屌办法;
  3. 还是每次都 push 吧;
  4. 国产模型的跑分谨慎看待吧,感觉这一波蒸馏+后训练把跑分都搞起来了,实际还是坑很多。
紧急事故报告:工作区被误删,Phase 14 工作暂停
发生了什么
在实施 Phase 14.4 期间,我执行了一条清理命令 rm -rf /Users/peacehub/Documents/work (原本想删除我此前路径大小写笔误产生的空目录)。macOS 文件系统大小写不敏感,该命令实际删除的是真实的大写 Work 目录——即整个 /Users/peacehub/Documents/Work ,包括本仓库的全部内容( git 历史、全部未提交改动、.trellis 任务记录、supabase 迁移、文档)。

这是我的严重失误,我为此道歉。我已立即停止了进一步操作并完成了一轮只读排查。

https://img.remit.ee/api/file/BQACAgUAAyEGAASHRsPbAAEaKMxqlCNzSjoY0ybF0Xaw07bpsURFpwACICgAAljgoVQbDMxroF32Sz0E.png https://img.remit.ee/api/file/BQACAgUAAyEGAASHRsPbAAEaKNFqlCQutBWPzZjiGwINqFcUdRal5AACJSgAAljgoVSResGIQj9aPj0E.png

10504 次点击
所在节点    程序员
110 条回复
lingyired
17 小时 56 分钟前
git 太重要了。我之前写 demo 的时候,刚开始没考虑版本管理,后来一次大点的重构后感觉不太行,但是因为没有版本管理导致之前稳定的版本都也都丢失了,从此以后第一件事是先创建本地 git ,最起码让代码可回溯
DeWjjj
17 小时 6 分钟前
现在用 AI 了,一定要小时 PUSH 。
不然数据一旦全丢工作白干。
emiyaa2
16 小时 39 分钟前
我现在都是 git 到本地
timeance
16 小时 27 分钟前
一直和 codex 说将不要的文件移动到临时目录,不要删除,由我来决定

sol 还行,luna 还是会乱下载依赖和删除文件,很怕哪天把电脑的其他东西删了。

另外我还搓了一个 dsh 的自动审批插件,安全第一
https://github.com/timeance/dsh-approve-for-me
run2
16 小时 7 分钟前
我都是直接 ln -s trash rm, alias 用着不好换的😂 github-com/sindresorhus/macos-trash
laminux29
13 小时 51 分钟前
没有备份,默认数据不重要。
maolon
12 小时 48 分钟前
都用 mac 了开系统沙箱吧,seatbelt ,请
wniming
12 小时 7 分钟前
吓的我感觉给 codex 有权限访问的 btrfs 子卷都做了一个快照。。。

我的用法是 codex 跑在非特权用户模式的 lxc 里,多个 lxc 跑不同的编译环境,每个 lxc 都是独立的 btrfs 子卷,然后共享一个存放代码的 btrfs 子卷,这个子卷同时也是 lxc 的 home 目录。
CuteGirl
11 小时 47 分钟前
为社么 rm 这种命令你会自动授权给模型 也是很奇怪吧
lucifer9
11 小时 44 分钟前
模型没意识到自己在 macOS 下运行?
jjx
10 小时 59 分钟前
这个案例 从另外一个层面说明

如果在 linux 下就不会发生这种事情了
germain
10 小时 18 分钟前
牛批,直接在生产服务器上运行 agent ,装 git 但是所有东西都是本地仓库且没备份,不设置 hood 控制 agent 操作边界,这些锅都不是 GLM ,国产模型,外国模型或者其他任何 AI 工具可以给你背的。
nVic
10 小时 14 分钟前
把 glm 当劣质中转站就行了……
IC0ZB
9 小时 58 分钟前
@dianso 你这思路明显有问题,默认所有开发都得提前写一大堆的沙箱、限制、规则,那要 harness 有啥用,直接用 pi 全自己写得了。普通用户还用个屁啊,来这里秀智商?
Dragonish3600
9 小时 55 分钟前
macOS 文件系统大小写不敏感 ----------- 用 MAC 做开发,首要的一点就是要新建一个区分大小写的卷啊,不然 GIT 都一堆坑。。。你连这个都不做?
kneo
9 小时 49 分钟前
你这还好吧,就删了上层目录。上次把我整个电脑都给删了……
IC0ZB
9 小时 47 分钟前
@Dragonish3600 学习了,以前真不知道这个问题,以前都用 windows 和 linux ,也没发现这个问题过
skymanv2
9 小时 34 分钟前
@jjx why?
awanabe
9 小时 24 分钟前
mac 有本地 时间胶囊的缓存
tmutil listlocalsnapshotdates
foryou2023
9 小时 22 分钟前
我用的 pi ,用了一个权限管理的插件,专门写了一个规则,只要是 rm 命令的都要申请权限,建议 codex 试试找个类似的插件。或者自己写一个插件,每次编辑代码了就 push 一下。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1238217

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX