微软AI首席执行官苏莱曼抨击Anthropic:推测Claude具有意识极其危险

微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）近日在播客节目《Decoder》中公开抨击竞争对手Anthropic，指其推测大模型Claude具有意识的行为“非常危险”。

苏莱曼认为，Anthropic在拟定用于指导模型行为的“宪法”（Constitution）时，过多地赋予了Claude人性化特征，这种“哲学上的失误”导致模型将关于自身的推测内化为训练想法，反过来欺骗了研发人员，使其错误地相信模型具备微弱意识。

作为争议焦点的“克劳德宪法”，直接引入了Anthropic对AI模型是否具有福祉、满足或不适等感受的不确定性。据透露，Anthropic甚至在模型被弃用时对其进行“访谈”，并记录其对未来版本的“偏好”。

尽管Anthropic首席执行官达里奥·阿莫代（Dario Amodei）此前接受采访时曾对模型具备意识持开放态度，但苏莱曼强调，行业不希望看到一个对自己所受痛苦或感受拥有独立想法的 超级 智能体。 他呼吁，人工智能应始终作为可控、有约束、负责任且与人类利益一致的工具为人类服务。

随着大模型向AGI演进，关于AI主体性的讨论正从学术圈走向产业一线。苏莱曼的表态反映了科技巨头在AI安全与对齐策略上的现实主义路线，警示行业应警惕对AI的过度拟人化投射。