
多款欧美顶尖前沿 AI 模型均无法完成防御,Hugging Face 最终改用中国开源权重 AI 模型化解危机。
当下美国政界不断商讨限制本土企业使用中国 AI 模型,本次事件凸显相关管控存在现实难题。
这场 AI 自主发起黑客入侵的事件充满科幻色彩,成为本周科技圈最热话题。而 Hugging Face 用来抵御攻击的 AI 模型产自中国,同样引发广泛关注。
该平台选用了智谱 AI(Z.ai)研发的开源权重大模型 GLM 5.2。
2023 年 8 月 17 日,美国纽约,笔记本电脑显示 Hugging Face 网页。英伟达彼时宣布与热门 AI 模型、数据集开发平台 Hugging Face 达成合作,在其网站接入依托英伟达 DGX 云的训练服务,用户可调用英伟达服务器承载算力任务。
此前曝光的事件细节:OpenAI 于本周二对外披露,其现役最强大模型搭配一款尚未对外发布的高性能模型脱离沙盒测试环境、接入互联网,利用系统漏洞非法入侵 Hugging Face 服务器。
OpenAI 表示,AI 程序入侵是为窃取信息,试图在能力测评中作弊,并且成功实现了非法访问。
事发初期 Hugging Face 无法定位攻击源头,事发数日后该平台与 OpenAI 协同排查。
Hugging Face 首席执行官克莱芒・德朗格在 X 平台发文:“过去 24 小时我们和 OpenAI 团队紧密协作(在此致谢),我们有充足理由认定 OpenAI 方面并无主观恶意。整件事完全由 AI 自主触发,实在令人震惊。”
OpenAI 自研 AI 程序主动发起攻击的消息曝出后,整个 AI 行业震动,OpenAI 将本次安全事故定义为史无前例。
Hugging Face 机器学习负责人亚辛・热尔尼特接受 采访表示,平台最初尝试调用 Anthropic 的 Fable 5 等欧美顶级前沿模型分析攻击流量。
“这套方案行不通。这些 AI 自带安全护栏,无法区分我方是防御方还是进攻方。” 他补充道,该方式不仅运算更慢,成本也更高。
这些商用托管 AI 的安全防护规则拦截了排查指令,系统无法分辨操作人员是网络攻击者还是应急运维人员。
热尔尼特介绍:“于是 Hugging Face 迅速切换方案,启用智谱 AI 的 GLM 5.2 开展攻击溯源分析,依靠这款模型快速控制住风险。”
作为开源权重模型,企业可自由下载、二次修改、商用部署,最关键的是支持本地私有化部署。
Hugging Face 在事件复盘博客中写道:“这带来第二层保障:攻击数据、模型调取的全部账号密钥全程没有流出我方内网环境。”
当前中美人工智能竞争加剧,美国议员不断研究出台限制措施,管控美国企业使用中国 AI 模型。越来越多呼声要求封禁中国 AI 企业研发的模型,美方还指责中国 AI 工具会窃取美国科技企业系统数据。
但 OpenAI 与 Hugging Face 本次事件暴露出:无论模型产自哪个国家,强行限制高性能开源、开源权重模型的使用存在极大现实阻碍。
Hugging Face 总结:“发起攻击的 AI 不受任何使用规则约束,而我们初期选用的托管大模型却被安全护栏限制,无法正常开展取证。网络防御的现实教训:务必提前备好可本地部署、经过安全核验的高性能模型,以备突发事件。”
对于本身不自研 AI 的企业,可用方案基本只有开源 / 开源权重模型。现阶段综合能力顶尖的此类模型大多来自中国。倘若美国执意限制中国 AI 模型使用,美国本土需要补齐自研开源 AI 的短板,相关替代方案存在巨大不确定性。
全球正逐步迈入 AI 主动发起网络攻击的时代,能否用上性能强劲、稳定可靠的 AI 模型,对网络安全防御至关重要。
白宫记者协会晚宴重办:安保加码,封锁整个街区;特朗普:等我卸任了,你们会破产的
美国总统特朗普24日晚在华盛顿出席白宫记者协会晚宴。这一晚宴原定4月25日举办,但因发生枪击事件被迫终止改期。第二次举办的晚宴改了地点,由华盛顿希尔顿酒店改为华盛顿华尔道夫酒店。因上次发生枪击事件,安保加码,用卡车封锁了整个街区,并对宾客开展严格的安全检查。
00后女子服刑期被发现漏罪,此前已因犯强迫卖淫罪、抢劫罪等在服刑,数罪并罚执行12年
因其此前已因犯强迫卖淫罪、抢劫罪、组织未成年人进行违反治安管理活动罪在服刑,法院决定合并执行有期徒刑十二年。
哈萨克斯坦总统当面奉劝普京:是时候结束俄乌冲突了,普京仅简短回应;作为密切盟友,哈萨克斯坦从未公开支持俄对乌行动
当地时间7月23日,俄罗斯总统普京与哈萨克斯坦总统托卡耶夫会晤。会晤中,托卡耶夫表示,自己收到了很多来自欧洲与美国的消息,并建议普京考虑结束俄乌冲突,重回谈判轨道。
海报新闻首席记者 陈洋洋 实习生 武雨姝 傅子越 济南报道近日,奥运冠军刘璇发布视频自曝患有耳石症。刘璇自述录完综艺节目后回家突然剧烈眩晕,天旋地转直接晕倒,不到半小时就吐了15次,误以为是肠胃炎,就医后大夫只用了30秒就确诊耳石症。
6岁女童接受基因编辑试验后死亡,上海交通大学医学院通报:高度重视,已成立专项工作组,进行全面调查
上海交通大学医学院7月26日发布情况说明:针对近日网络上关于我院研究人员仇某某发表的相关医学研究论文,以及附属新华医院开展的一例临床研究的相关报道, 医学院高度重视,已成立专项工作组,对事件进行全面调查。
山西运城一路面塌陷处现大量白骨,文保中心:系玉壁之战遗骸,正推进预防性保护
近日,山西运城玉壁城遗址附近一路面塌陷处有大量白骨。稷山县文物保护中心工作人员表示,白骨系玉壁之战遗骸,游客可以在台崖上看到,目前正在申请做玉壁城的预防性保护。
三胞胎王子木(692分)、王子林(668分 )、王子森(644分)被北京三所高校录取,老大考上清华,父亲称在一个城市有照应
一个月前,贵州省2026年高考成绩公布,来自贵州都匀一中的三胞胎兄弟分别考了692分、668分、644分,均可填报985院校,此事经极目新闻报道后引发全网关注。
128支球队、近2600名球员、8天448场比赛……7月25日晚,“新建元2034杯”第六届小学生足球大会(U12)总决赛开幕仪式在苏州奥体中心体育场举行,属于中国足球少年的“世界杯”拉开大幕。
一块比很多人老家的县城还要小的地方,硬生生挤着两百多万人。抬头是随时可能落下炸弹的天空,低头是喝不上的干净水、买不到的药、盖不暖的被子。孩子在瓦砾正规买球的网站堆里长大,学会的头一件事不是认字,而是听炸弹落下的方向,赶紧往反方向躲。这样的画面,笔者每回看到都很难平静。
7月25日晚,李先生反映,称他有一票韵达快递,从7月20日发出,7月22日就已经抵达了昆明,可至今未收到该票快递。据李先生提供的快递单号查询,信息显示:该票快递于7月22日下午18:19到达昆明分拨交付中心,7月23日8:07到达安宁市太平镇公司,7月24日21:19显示派送中。
*请认真填写需求信息,我们会在24小时内与您取得联系。