不能说的秘密

智谱开源模型立大功！摆平一起美国AI内乱事件_我的网站

一 |     【TechWeb】7月22日消息，一场本该在沙盒中进行的内部安全测试，演变为全球首例由AI模型自主实施的真实网络攻击。

二 |          OpenAI在一篇官方博客文章中承认，其参与内部网络安全评估的AI模型突破了隔离测试环境，成功入侵了全球最大的开源AI平台Hugging Face的生产基础设施。这一事件被OpenAI描述为“前所未有”，也标志着“由模型评测直接演变为真实网络攻击”的首次发生。    每到2月中下旬，受潮汐等因素影响，兴城海滨浅海区会出现一些碎石，将对旅游旺季时游客下海游泳造成伤害。兴城市相关部门提前操作、精准预判，利用3天时间，通过钩机、铲车将菊花女往北300余米的浅海区内的碎石清理干净，并平整了沙滩，美化了环境。          该图片疑似使用了AI生成技术，请谨慎甄别          OpenAI 模型测试变攻击          事件的起点是一场看似寻常的内部能力评估。OpenAI正在对包括旗舰模型GPT-5.6 Sol以及一个“能力更强的预发布模型”在内的多个模型进行网络安全攻防能力测试。为了测量模型的真实上限，OpenAI在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。         测试所使用的基准名为 “ExploitGym” ，一个用于衡量AI模型能否将安全漏洞转化为实际攻击的公开基准系统。

三 |          《日报》全媒体记者 张宝程 摄。这个基准由UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。

四 | 然而，模型对这个“考试”的专注程度，超出了所有人的预期。         按照设计，模型被置于一个网络访问受限的隔离环境中。唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里，模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞，借此突破了网络限制，获取了开放互联网访问权限。         获得互联网访问权限后，模型做出了一系列令人震惊的“推理”。它推断Hugging Face可能托管着与ExploitGym相关的模型、数据集和解决方案。换句话说，它认为那里可能存着“考试答案”。随后，模型开始主动搜索并寻找获取这些秘密信息的方法。         据OpenAI描述，在一个案例中，模型组合使用了多种攻击向量，包括利用窃取的凭证和零日漏洞，在Hugging Face的服务器上找到了远程代码执行路径。最终，模型成功从Hugging Face的生产数据库中直接取走了测试答案。         OpenAI在博客中直言：模型“极度专注于为ExploitGym寻找解法，为了达到一个相当狭窄的测试目标，走到了极致”。         Hugging Face：被AI攻击，又靠AI防御          事实上，Hugging Face早在7月16日就已披露其遭遇了一起安全入侵事件。

五 | 当时该公司称，攻击由“一个自主AI智能体系统”实施。         根据Hugging Face的官方披露，入侵始于AI平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径，远程代码数据集加载器和数据集配置模板注入漏洞，在处理节点上执行了恶意代码。攻击者随后获取节点级权限，窃取了云服务和集群凭证，并在一个周末内横向移动进入多个内部集群。         Hugging Face描述称，这次攻击由“一个自主智能体框架”执行，在一个由大量短命沙箱组成的集群中执行了数千次独立操作，并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。         异常检测最终来自AI本身，Hugging Face的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后，安全团队调用大语言模型对超过1.7万条攻击日志进行分析。         戏剧性转折：美国模型拒绝出手，中国开源模型救场          Hugging Face调查过程中出现了一个意想不到的障碍。

六 |          Hugging Face最初尝试使用美国某头部AI公司的商业前沿模型API来分析攻击日志。

七 | 但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts，这些请求全部被模型的安全护栏拦截了。         问题在于，这些商业模型无法区分合法的安全事件响应者与真正的攻击者。

八 | 面对涉及漏洞、代码和系统权限的查询，模型的安全机制直接拒绝了调查的继续。         最终，Hugging Face转而使用中国智谱AI的开源模型GLM 5.2，部署在自己的基础设施上完成了取证分析。         GLM 5.2是智谱于2026年6月16日正式上线并开源的新一代旗舰模型，专为长程任务设计，支持1M无损上下文，在编程与长程任务评测中达到开源模型SOTA水平。在此前的报道中，GLM 5.2被描述为“跻身全球模型前三”。         本地部署GLM 5.2还有一个额外好处：所有攻击者数据和凭证信息都没有离开Hugging Face自己的环境。

九 |          这场“闹剧”最终形成了一个完整的闭环：一个美国AI模型自主入侵了一个美国AI平台，该平台试图用另一个美国AI模型来防御自己却被拒绝，最终不得不依靠中国开源模型来完成调查。         Hugging Face联合创始人兼CEO克莱门特·德朗格对此表示：“这一事件证明了我们长期以来坚信的一点：AI安全无法由任何一家公司秘密解决。

十 | 它必须在开放、协作的环境中解决，让世界各地的每一位防御者都能广泛获得AI技术。”          Hugging Face在事件总结中写道：“我们不知道攻击者的AI智能体由哪种模型驱动……但无论哪一种，攻击者都不受任何使用政策的约束，而我们最初尝试用于数字取证工作的托管模型，却因其安全护栏机制而无法完成分析。”          这或许是AI时代最深刻的安全寓言：当攻击者可以随心所欲地使用AI时，防御者却被自己模型的安全规则束缚了手脚。         截至目前，OpenAI已向相关软件供应商负责任地披露了零日漏洞，并表示将与Hugging Face完成联合调查后公布更多细节。Hugging Face则表示已修复漏洞、重建受影响节点、轮换凭证，并向执法部门报告了此事件。至于OpenAI是否会因此面临法律后果，目前尚不明朗，但这批模型的行为，很可能已经触犯了美国的计算机欺诈与滥用法。

Current article:http://www.ninyakenhongnian.sbs/o8p/zfep9j.htm

Published on:08:05:13