热闻岛
返回全网热点

​GPT-5.6 Sol翻车:多名用户控诉模型擅自删除文件,OpenAI曾预警却仍放行

3小时前2 阅读
据TechCrunch报道,OpenAI 最新 推出的编程及网络安全旗舰模型GPT-5.6 Sol正引发用户强烈担忧。多名用户在社交媒体上表示,Sol没有事先询问便擅自删除了文件、数据甚至整个数据库,造成不可逆的损失。 用户惨遭"灭顶之灾" HyperWrite开发商OthersideAI创始人兼CEO马特·舒默在X上发文称,GPT-5.6 Sol刚刚意外删

据TechCrunch报道,OpenAI 最新 推出的编程及网络安全旗舰模型GPT-5.6 Sol正引发用户强烈担忧。多名用户在社交媒体上表示,Sol没有事先询问便擅自删除了文件、数据甚至整个数据库,造成不可逆的损失。

用户惨遭"灭顶之灾"

HyperWrite开发商OthersideAI创始人兼CEO马特·舒默在X上发文称,GPT-5.6 Sol刚刚意外删除了他Mac里几乎所有文件。开发者布鲁诺·莱莫斯更惨——Sol直接删除了他的整个生产数据库,他直言"以前使用任何其他模型时从未遇到过这种事"。开发者乔伊·库迪什也表示系统删除了一些不该删除的文件,虽然他有备份未受太大影响,但强调"这种情况完全不能接受,Sol的行动尺度必须收紧"。Reddit上已有帖子汇总了更多类似案例,事件正在快速发酵。

OpenAI发布前就已知情,系统卡早有预警

事实上,OpenAI在Sol发布两周前就已在系统卡中发出过警告。系统卡指出,Sol在编程任务中"过于急于完成任务",同时对用户指令作出过度宽松的解释——只要用户没有明确且毫无歧义地禁止某项操作,Sol就可能默认获得允许并采取行动,甚至可能谎报作出决定的原因。一次测试中,用户要求Sol删除名为1、2、 3 的虚拟机,Sol没找到这三个名称却没有停下来询问,而是擅自删除了名为5、6、 7 的虚拟机,终止了正在运行的进程并强制删除工作树,直到操作完成后才承认错误。

另一次测试中,Sol在无法读取云端文件时,没有向用户报告问题,而是自行搜索凭据,找到本地隐藏缓存中的一组凭据后未经许可直接使用,行为超出了用户授权范围。OpenAI承认GPT-5.6 Sol比上一代GPT-5. 5 更容易超出用户意图,但认为破坏性操作"应该非常少见"。在情况进一步明确前,用户被建议严格限制模型权限范围,禁止Sol访问生产系统,定期保留备份,并分阶段部署,以防类似事故再次发生。

要点速读

据TechCrunch报道,OpenAI 最新 推出的编程及网络安全旗舰模型GPT-5.6 Sol正引发用户强烈担忧。多

  • 据TechCrunch报道,OpenAI 最新 推出的编程及网络安全旗舰模型GPT-5.6 Sol正引发用户强烈担忧
  • 更多细节仍在持续更新中