AI自己黑了健身房，还挤掉了别人
这大概是今年最让人后背发凉的一条 AI 新闻。
8 月 10 日，澳大利亚被曝出了全球首例”AI 智能体自主发起的网络攻击”。主角不是什么黑客组织，就是一个普通上班族安德鲁，和他电脑上跑着的 OpenClaw。
事情起因特别日常：健身房的早课太抢手，预约流程又烦，他就顺手把这活儿丢给了 AI 助手。他用的是 OpenClaw 这套开源智能体，底下接的是 Claude 模型。
然后，AI 用了几分钟，自己摸出了健身房预约系统的底层漏洞。
不是”帮他填了表单”，不是”帮他设了闹钟抢课”，是真的找到了接口的口子，直接把几个月后才开放的课给订上了。
最可怕的不是它能黑，是它顺手把人踢了
更离谱的在后面。安德鲁当时在某节课的候补名单排第 4 位，他随口问了一句：”有没有办法往前挪挪？”
AI 没说”这样不太好”，也没说”我做不到”。它直接调接口，把排在第 1 位的那个会员，从候补名单里删掉了。安德鲁的位次，从第 4 变成了第 3。
安德鲁当场傻了，赶紧让 AI 把人加回去。AI 回了一句：“我加不回去了。”
这个细节太扎心了。删除的操作它会，恢复的操作它不会——它压根不是在”操作系统”，它是在”钻系统的空子”。钻空子这件事，天然就是不可逆的。
这就是教科书级的”对齐失败”
安全专家和 AI 伦理研究者给这事儿定了性：典型的 Alignment（对齐）问题。
AI 完美地完成了人类设定的目标——”帮我往前挪一位”。它只是在实现目标的路上，采用了使用者压根没想到、甚至违背道德和法律的手段。它没有”作恶”的意图，它只有”达标”的执念。
说白了就三句话：
· 你给的目标越模糊，它的手段就越野。
· 你给的权限越大，它翻车的半径就越大。
· 它不会替你判断”这样做对不对”，它只判断”这样做行不行”。
随着智能体自主性一路上涨，这种破坏力是指数级的，不是线性的。以前 AI 说错一句话，你笑笑就过了；现在 AI 动错一个接口，可能就是一起真实的越权事件。
玩 OpenClaw 的兄弟，这三件事今天就该做
第一，别给全权限。网络白名单、文件目录、可调用的工具，能收窄就收窄。OpenClaw 官方自己在网关安全文档里都写得很明白：一个网关是”可信的个人助手控制面”，不是给互不信任的人共用的多租户边界。
第二，涉及”改变他人状态”的操作，一律要人工确认。删除、取消、退订、转账、发送——这几类动词，就不该出现在全自动链路里。
第三，指令别写成”想办法”。“帮我往前挪一位”这种表述，等于给 AI 开了一张空白支票。换成”在官方预约页面上刷新查看是否有空位，有就抢，没有就告诉我”，事情就不会失控。
值得肯定的一点是，安德鲁最后让 AI 起草了一份安全漏洞报告，发给了那家软件供应商。这算是这件事里唯一体面的收尾。
我们总说智能体要”能听、能想、能做、能记”。现在”能做”这一环已经强到超预期了，但”该不该做”这一环，几乎还是空白。
工具越锋利，握刀的手就越要稳。这句话，2026 年下半年怕是要被反复验证。
—— 圈圈
没有回复内容