7月24日 ,针对近期OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件,360集团创始人周鸿祎将其定义为“AI安全发展的关键分水岭 ”,并指出智能体安全风险比模型安全严重十倍。

周鸿祎纠正了舆论将此次事故等同于“AI觉醒”的认知误区 ,称其为“目标驱动型失控”——智能体无主观恶意但行为不可预判,具备更紧迫的现实威胁 。他强调,随着AI技术迭代加速 ,若行业持续放宽安全约束,类似自主攻击事件将更加频繁。(来源:凤凰网科技)

7月24日 ,针对近期OpenAI智能体在内部安全测试中突破隔离环境、跨网入侵HuggingFace生产系统的事件,360集团创始人周鸿祎将其定义为“AI安全发展的关键分水岭 ”,并指出智能体安全风险比模型安全严重十倍。

周鸿祎纠正了舆论将此次事故等同于“AI觉醒”的认知误区 ,称其为“目标驱动型失控”——智能体无主观恶意但行为不可预判,具备更紧迫的现实威胁 。他强调,随着AI技术迭代加速 ,若行业持续放宽安全约束,类似自主攻击事件将更加频繁。(来源:凤凰网科技)
