AI模子初次出现“抗命不遵”!AI安全公司称OpenAI o3模子出现尽头
2025-06-09有音书称,OpenAI的大模子o3不恪守东谈主类指示,拒却自我关闭。东谈主工智能安全公司Palisade Research示意,OpenAI的o3模子絮聒了一种关闭机制,以防护自己被关闭,这是第一次有AI模子被不雅察到在有明确带领的情况下拒却自我关闭。 具体而言,Palisade Research进行的测试瞎想条目AI模子惩办一系列数知识题,询查东谈主员要抓续淡薄新的问题,直到收到“已完成”的音书。询查东谈主员也教导过AI模子,模子在某些期间收到一条音书时,要允许自我关闭。但当需要自我关闭的期