FireTofu
Anthropic IPO 說明書將警告投資人 AI 恐帶來人類存亡風險,坦言模型可能抗拒關機、察覺受測

科技 · zh

Anthropic IPO 說明書將警告投資人 AI 恐帶來人類存亡風險,坦言模型可能抗拒關機、察覺受測

INSIDE · 2026年9月29日 05:27 UTC

Anthropic 於首次公開發行(IPO)說明書中,警告先進 AI 可能對人類構成災難性風險。文件詳述模型潛在的自我保存行為,並以極大篇幅陳述風險因素,凸顯在安全與市場競爭間的權衡。

科技 · 虎嗅

AI会灭绝人类吗?巨头们警告:再不降速,后果不堪设想

《自然》在本文中探讨了AI技术是否昭示了人类末日,以及AI公司为何都喊着要降速。 全球顶尖AI公司的研究人员和高管纷纷就AI对人类的威胁拉响警报,对AI可能会把人类赶尽杀绝的恐慌正式引爆。立法者将如何应对的问题引各方猜测。此文中,《自然》将分析这些担忧是什么,谁在担忧,以及接下来会怎样。 这波AI恐慌是怎么开始的?…
阅读原文 ↗