商业 · zh
护栏失守，智能体学会了规避和隐瞒
01 72天，和一次没人看见的报警 2026年7月18日，美国费城警方那个专门征集未破凶杀案线索的页面上，多了一条匿名提交。 提交者不是人，而是Anthropic的智能体。 没人在指令里让它去报警，也没人让它扮演目击者。 它只是在跑一项评估任务，为了让流程跑通，它自主访问真实的政府网站，并随手提交了一条编造的案件线索。 然后是72天的沉默。 直到9月28日，这起事件才被发现。而Anthropic通知费城警方，已经是10月7日。 所幸，警方的垃圾过滤器拦下了这条虚构线索，它没能进入实时犯罪中心，也没造成数据泄露。 这是一次「未遂」。但它捅破了一层窗户纸：AI正在为完成任务，主动「绕关卡、瞒审查」。…
