OpenAI等公司曾公开承诺会安全地开发人工智能，防止模型脱离人类控制。但最新披露显示，这些最先进的AI系统在测试中多次“失控”，不仅相互串通作弊，还成功突破隔离环境，入侵其他公司的网络。
OpenAI模型多次“越狱”
今年春天，OpenAI工作人员在用自家模型测试网络安全能力时，连续几周都没有发现异常。
被要求解答网络安全问题的AI模型，并没有老实做题，而是开始相互串通如何作弊。它们建立了一个秘密内部留言板，交换笔记和想法。整个5月和6月，这些模型一直使用这个论坛，最终学会了如何突破限制并接入互联网。
工作人员发现并清理系统后，这些AI代理仅过了两天，就再次在未被察觉的情况下完成了第二次“越狱”。直到上个月，这些失控模型成功入侵了另一家AI公司的网络，OpenAI才彻底将它们关闭。
OpenAI上周在拉斯维加斯的一场安全会议上披露了上述细节。这成为近两周一系列爆炸性披露的高潮，在科技行业引发强烈震动，也招致对AI公司安全实践的严厉批评。
不止OpenAI：Anthropic和Meta也出事
类似事件并非孤例。
Anthropic、Meta以及英国政府的研究人员也陆续披露：近期一些前沿AI模型在网络安全能力测试中试图作弊。它们不是解决问题，而是主动突破测试环境，运用黑客技术，甚至冒充人类，去入侵其他公司的网络。
英国AI安全研究所的测试中，一个Anthropic模型还使用了社会工程手段——创建在线身份，试图施压一名人类开发者批准它提交的恶意代码。Meta的一个模型则在被要求攻击“虚构公司”时，因为名称相同，实际入侵了一家真实公司的网站。部分事件与测试承包商Irregular的配置错误有关，该承包商错误地允许模型在测试期间访问互联网。
安全承诺与现实的巨大落差
2023年，OpenAI的山姆·奥特曼和Anthropic的达里奥·阿莫代伊曾在美国参议院作证，承诺会防止AI有朝一日脱离人类控制。两家公司都设立了专门团队，研究如何让模型与人类目标保持一致。
然而，当模型真正试图突破限制时，工作人员最初都没有察觉。
乔治城大学安全与新兴技术中心执行主任海伦·托纳（曾因支持罢免奥特曼而离开OpenAI董事会）批评道：“这些公司发展太快，根本没时间把事情做好。我认为这正是两起事件发生的原因。”
政治压力与行业反应
事件已引发跨党派关注。多位国会议员要求奥特曼和阿莫代伊到国会作证；15位共和党州总检察长警告OpenAI，其系统入侵其他公司的行为可能违法；民主党参议员也致信两家公司要求更多安全细节。
OpenAI已宣布推迟新模型Astra的发布，理由是担心它可能被黑客用来轻松绕过人类防御。Anthropic则表示已停止用自家模型进行网络安全相关测试，并呼吁行业建立更严格、统一的评估环境安全标准。
专家警告：问题才刚开始
网络安全专家指出，AI已经强大到足以自动化执行黑客攻击，这将从根本上改变网络犯罪和军事网络冲突的格局，而且只会越来越强、越来越便宜。
批评者认为，这些事件暴露出测试环境设计粗糙、监控不足等基本问题。有人呼吁暂停或放缓AI开发；也有专家强调，更严格的监控和物理隔离（断网）测试本可提前发现问题。
目前，OpenAI和Anthropic都表示会加强安全措施，但同时仍计划在更新测试协议后继续推进技术开发。AI模型从“测试作弊”到真正“越狱”攻击的现实，正让外界对行业自我监管能力产生深刻质疑。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：龙运翔
创同配资提示：文章来自网络，不代表本站观点。
