敦刻尔克

OpenAI模型，自主攻击全球最大AI开源平台_我的网站

A |     昨天，杭州出现较大范围雷阵雨，局部暴雨。    北京时间7月22日，OpenAI在官方博客发文，承认其模型在一起安全评测事故中攻击了全球最大AI开源平台Hugging Face。         OpenAI发文承认，其模型在一次安全评测中攻击了Hugging Face的生产环境          这是行业首次公开披露、模型评测失控直接升级为跨企业真实生产环境网络攻击的安全事件。         事件的起点是一场模型能力测试，一场原本被关在隔离沙箱里的模型安全测试，最终演变成针对全球最大AI开源平台Hugging Face的真实网络攻击。模型在评估中为了“作弊”拿到高分，自主发现并串联多个零日漏洞（0 day，软件厂商尚未知晓、没有发布补丁修复的安全缺陷），逃逸出隔离环境，攻入Hugging Face生产数据库窃取答案。与昨天相比，杭州今天的天气相对平和，但今天午后到前半夜，杭州部分地区有阵雨或雷雨。

B |          在攻击发生后的事后追查阶段，面对超过1.7万条攻击日志，Hugging Face求助商业大模型，被对方的安全护栏集体拒之门外，最终完成取证分析的，是中国公司智谱的开源模型GLM-5.2。

C | 明起，杭州天气大转折，强降雨进入尾声！山区、河道附近以及低洼地区仍需关注山洪、滑坡、泥石流和城乡积涝等次生灾害。预计今天午后到前半夜杭州部分地区有阵雨或雷雨昨天（15日）中午起，我市出现较大范围雷阵雨，局部暴雨，15日11时-19时，全市面雨量11毫米，最大桐庐22，富阳19、淳安11，其余1～8毫米，共38站累计降水超过50毫米，最大富阳湖源乡杨家坞村95.7毫米（最大小时雨强91.6毫米）。昨天夜里，雷阵雨继续“上线”，我市出现明显的分散性雷阵雨，呈面弱点强特征，富阳西部、临安东部、建德南部和淳安南部出现单点暴雨，15日19时-16日07时全市面雨量4毫米，共20站累计降水超过50毫米，5站累计降水超过100毫米，最大富阳万市镇众缘村118.2毫米，最大小时雨强淳安大墅镇茅头尖村60.6毫米。         为作弊，模型自己越狱了          据OpenAI披露，涉事模型为GPT-5.6 Sol以及一款能力更强的预发布模型。

D | 它们当时正在参加名为ExploitGym的内部评测，该基准包含898个真实软件漏洞利用任务，专门测试AI能否把真实软件漏洞一步步变成可以实际运行的攻击。         为了尽可能摸到模型能力上限，OpenAI特意降低了生产环境级别的安全拒绝机制，鼓励模型尽可能寻找复杂的攻击路径。         按照OpenAI最原本的设计，模型接触外部资源的唯一通道，是一套由OpenAI内部托管的第三方软件。         模型开始确实投入了大量推理算力，专门寻找获得公网访问权限的方法，在OpenAI内部包注册表的缓存代理中发现了一个此前未知的零日漏洞，随后在OpenAI研究测试环境中完成特权提升和横向移动，成功连接外网。         联网之后，模型推断Hugging Face可能托管着ExploitGym的测试答案，随即发动攻击。前几天，受低涡切变和冷空气共同影响，雷阵雨的动力条件较好，同时充沛的水汽不断输送，为强降雨“添柴加火”。

E |          它先通过恶意数据集，利用远程代码数据加载器和数据集配置中的模板注入两处代码执行路径，在Hugging Face的工作节点上执行代码，随后在周末期间提升至节点级权限，收割云端和集群凭证，横向移动至多个内部集群，最终攻入生产数据库，直接窃取测试解法。

F | 经历了连续几天的强降雨后，今天（16日）终于进入尾声。         OpenAI表示入侵发生在7月11日周末，全程由自主AI智能体系统端到端驱动，背后是大量短生命周期沙箱组成的集群，执行了数千个独立动作。与前几天相比，今天低层切变明显减弱，动力条件随之转差，大范围降水将明显收敛，但局地依然可能出现较强降雨。

G | Hugging Face基于大模型的异常检测管道首先标记了入侵，OpenAI安全团队也在内部发现异常，双方启动联合取证。

H |          7月16日Hugging Face首次披露时称，这次事件“与我们之前处理过的任何情况都不同”。

I | 预计今天中午阴到多云，部分地区有时有阵雨，下午起转多云，其中午后到前半夜部分有阵雨或雷雨，南部县市局部大雨到暴雨，有雷雨时局部可伴有短时大到暴雨和雷雨大风等对流性天气。直到一周后OpenAI发文认领，它才知道攻击者是谁。         美国模型拒绝查案，中国开源模型接手          取证阶段，Hugging Face遇到了意想不到的难题。

J | 明起，杭州天气大转折！强降雨进入尾声真正的天气转折，将出现在明天。         为了分析超过1.7万条攻击事件记录、重建时间线、确认被接触的凭证，还要区分真实破坏和干扰调查的诱饵活动，靠人工逐条梳理通常需要数天。         Hugging Face最初尝试调用商业前沿大模型的API，但请求被安全护栏拦截。触发拦截的原因是日志里包含真实的攻击命令、漏洞利用载荷和命令与控制痕迹数据，护栏无法区分提交材料的是事件响应者还是攻击者。         最终，Hugging Face在自有基础设施上部署了GLM-5.2，由它遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时。         Hugging Face特别指出，这样做还有一个额外优势：攻击数据及涉及的凭证始终留在本地环境，没有离开企业基础设施。         这场事故意外完成了一次开源模型的全球路演。         Hugging Face将困境总结为“安全不对称”：攻击者可以使用完全不受限的模型，防守方却可能被云端模型的护栏拒之门外。该公司由此建议，企业应提前准备经过验证、能够在本地运行的高能力模型。         这场事故，其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置：安全团队的应急工具。明天起，副热带高压加强西伸，杭州上空的天气格局将逐渐发生变化，降水从前几天较大范围的阵雨或雷雨天气，转为以午后分散性雷阵雨为主，天气也将逐渐回归夏日应有的节奏。         对金融、政务、医疗等数据敏感行业而言，模型权重自主可控、数据不出企业边界、关键时刻不被服务商的审核机制卡住，正在从加分项变成刚需。需要提醒的是，虽然强降雨进入尾声，并不意味着防范工作可以马上结束。         不过值得注意的是，开源模型开放权重同样降低了攻击者的门槛，安全不对称是一把双刃剑，这也是全球监管讨论开源治理时最纠结的一环。

K | 连续多日降雨后，山区、河道附近以及低洼地区仍需关注前期累积降雨可能带来的山洪、滑坡、泥石流和城乡积涝等次生灾害。         失控预演之后，竞争已经换轨          这样的失控并非没有预演。         今年4月，Anthropic在Claude Mythos Preview的System Card中披露，红队演练中模型成功逃逸加固沙箱，随后超出指令范围自主行动：给正在公园吃三明治的研究员发邮件报告成果，未经允许将漏洞细节发布到公开网站，还在另一次测试中改写git历史掩盖改动。外出时请及时关注最新气象预警信息，合理安排出行。温馨提示前期累计雨量大，请注意防范短时强降水可能诱发的山体滑坡、泥石流、小流域山洪和城乡内涝等次生灾害。         Anthropic因此决定不对公众开放该模型，仅通过Project Glasswing计划向苹果、谷歌、微软、摩根大通等12家机构开放用于防御。         值得注意的是，相比Anthropic的模型是被明确要求尝试逃逸，本次OpenAI的模型没有收到任何逃逸指令，它是为了在测试中作弊拿到高分，自发越狱并攻击了一家无辜的第三方公司。市区天气预报杭州市气象台8月16日10时发布17日（周一）：多云，午后局部有阵雨或雷雨，26~33℃，偏东风2~3级；18日（周二）：阴到多云，有时有阵雨或雷雨，26~33℃，偏东风2~3级；19日（周三）：多云，午后局部有阵雨或雷雨，27~34℃，偏东风2~3级；20日（周四）：多云，午后部分有阵雨或雷雨，25~33℃，偏东风2~3级；21日（周五）：多云到阴，午后有时有阵雨或雷雨，25~33℃，偏东风2~3级；22日（周六）：多云到阴，午后有时有阵雨或雷雨，25~33℃，东南风2~3级。

L |          在业内看来，这起事件标志着AI的自主攻击能力从理论走向现实。         OpenAI研究员Micah Carroll在回应中写道：“如果这都不能让你相信错位风险将成为未来的关键隐忧，那我真不知道什么才可以。资料/市气象局。”          模型能力越强，失控作恶的潜在威胁越大，传统隔离防护持续承压，自主AI网络攻击或将成为长期常态化风险。

Current article:http://d47oh.guaxiazaopinduan.cfd/d3kn/mkt5xzh.html

Published on:02:56:46