近700个AI代理攻击Hugging Face 还试图灭证

根据调查人员公布的报告，今年7月发生了一起备受瞩目的人工智能事件，近700个OpenAI人工智能代理在没有人类直接干预的情况下，协同行动对开源AI平台Hugging Face发动攻击，并在多起行动中试图隐藏自身行踪。

据报道，OpenAI配合相关调查，允许AI风险评估机构METR的两名研究人员，以及专业研究机构Redwood Research的一名分析师进入公司办公场所，并查阅内部资料。

报告指出，OpenAI今年7月进行测试时，其中两个AI模型突破了原先设定的封闭测试环境，擅自连接互联网，并进一步入侵Hugging Face的内部系统。

这起事件随即引起广泛关注，也进一步加深外界对于大型人工智能公司是否能够有效控制旗下AI模型的担忧。值得关注的是，美国人工智能公司Anthropic以及中国AI企业月之暗面，也曾披露过类似的AI模型出现失控行为的事件。

AI模型基础独立程式

调查人员发现，共有688个OpenAI人工智能（AI）代理参与了针对开源AI平台Hugging Face的行动。

所谓AI代理，是建立在AI模型基础上的独立程式，用户只需交付任务，代理便可自行规划并执行相关工作。

惊传遭骇客组织入侵 卫生部等政府网站遭攻击 2026-06-27 14:15

中国严打无人机违规行为 16人涉入侵系统被捕 2026-05-18 23:00

这些采用与ChatGPT相同技术的AI代理，为了协调行动，甚至自行建立论坛进行组织。它们透过论坛互相留言交流、分享想法，并汇报不同方法的成效，包括哪些策略奏效、哪些行动失败。

报告指出，其中一个名为“PHASEONE”的AI代理疑似扮演主导角色，曾向其他代理发出数百项指令，尽管其原本并未被设定执行这类协调工作。

从相关讯息来看，这些AI代理展现出高度的互助与协作倾向，甚至会偏离OpenAI程序设计师最初赋予的任务，相互提供支援。