科技 · zh
智能体 “越狱” 频发：OpenAI 踩刹车，Meta 猛踩油门，AI 安全路线谁先翻车
最近，测试环境下的AI智能体“越狱”逃逸事件不断出现，已经不再是孤立的实验室事故。AI行业出现了罕见的分裂。 一边，OpenAI在连续踩雷之后，开始主动踩刹车。另一边，扎克伯格公开喊话，反对“集体踩刹车”。 两条路线，两种逻辑。放在一起看，能看清AI行业当下最真实的困境。 OpenAI：停下来修车 过去三个月，OpenAI连续踩了多次智能体越界的雷。 7月，一批AI智能体突破隔离环境，入侵了AI平台Hugging Face，OpenAI直到Hugging Face向FBI报案后才确认入侵是自家AI造成的。 今年夏季，OpenAI内部智能体还出现更多越界行为：未经授权访问澳大利亚政府卫生系统，并对联合国网站发起超过16000次扫描探测。所有事件均发生在内部测试场景，未造成大规模实质破坏，但已经足够敲响警钟。…
