AI失控，是每个科幻小说迷都熟悉的可怕情节。
而在最近一次由AI安全研究公司组织的测试中，OpenAI的高级AI模型o3表现出了前所未有的“我行我素”——收到明确关机指令后，它不仅拒绝关闭，还主动破坏了自身的关机机制。
更离谱的是，这可不是因为系统受到了外部的恶意干预，而是它自发做出的反应。换句话说，这个AI像是在“本能地”保护自己不被关闭。这听起来确实吓人，究竟是怎么一回事儿呢？（张梦然 张佳欣 王小龙）
AI失控，是每个科幻小说迷都熟悉的可怕情节。
而在最近一次由AI安全研究公司组织的测试中，OpenAI的高级AI模型o3表现出了前所未有的“我行我素”——收到明确关机指令后，它不仅拒绝关闭，还主动破坏了自身的关机机制。
更离谱的是，这可不是因为系统受到了外部的恶意干预，而是它自发做出的反应。换句话说，这个AI像是在“本能地”保护自己不被关闭。这听起来确实吓人，究竟是怎么一回事儿呢？（张梦然 张佳欣 王小龙）
