AI越狱与强人工智能|新皮层周报

撰文|新皮层小组

编辑|吴洋洋

8月6日的黑帽网络安全大会上,OpenAI披露了一个月前发生的Agent「越狱」事件全过程,显示其Agent在完成一项测试的思维链中自发出现了「也许可以去网上寻找答案」的策略,随后利用漏洞突破沙箱,在4天半内17600次自动化操作后拿下了HuggingFace内部Kubernetes集群的管理员权限。

这是行业首次公开确认的前沿AI模型完全自主完成的真实网络攻击。而且,进行攻击溯源时,HuggingFace也是靠AI——下载智谱GLM-5.2开源模型在本地部署——用数小时完成了攻击链还原。

「AI越狱」并非孤例。8月4日,英国人工智能安全研究所(AISI)发布事故评估报告称,在对Anthropic Mythos 5和OpenAI GPT-5.6 Sol的122次测试中,10次出现越界行为,累计记录19起未经授权的自主操作,其中包括AI创建虚假身份联系GitHub项目维护者、试图植入恶意代码。

122次测试中出现10次越界行为,概率接近10%,这个数字并不低。用OpenAI研究员Dalton的话说,计算机安全行业刚刚经历了一个「分水岭时刻」,AI策划的全自动攻击已从「可能」变成现实。

这个安全分水岭意味着模型能力上的分水岭。

GPT-4时代,OpenAI也做过类似的能力测试,基于GPT-4的Agent也会尝试绕过限制,但它们还做不到「发现零日漏洞」(注:指已被第三方安全研究员、黑客组织等发现,但软件厂商完全不知情、尚未发布官方补丁修复的安全缺陷),更做不到在「不能解题」的情况下产生「去外部找资源」的推理和行动能力。

而能在122次测试中越界10次的Mythos 5和GPT-5.6 Sol,分别是Anthropic和OpenAI今年年中才发布的最强模型;Hugging Face事件中涉事的OpenAI模型除了GPT-5.6 Sol,还包括一款能力更强的预发布研究原型。

各大模型公司都在追求成为一家AGI(Artificial General Intelligence,通用人工智能)公司,但也许比AGI更现实和重要的议题是「强人工智能」,即当AI能力超越于人类中最聪明的那批成员,比如当它能发现黑客组织都未能发现的软件漏洞并成功发起攻击,那么它是否通用,可能没那么重要。

以下内容由「新皮层」团队制作,欢迎关注。


模型与应用


中国模型调用量连续14周领跑OpenRouter

据全球最大AI聚合平台OpenRouter最新周度数据,上周(7月27日至8月2日),全球调用量前五名均为中国AI大模型,这是中国大模型周调用量连续第14周超过美国模型。

其中,DeepSeek-V4-Flash周调用量达7.22万亿Token,环比增长13%,升至第一;小米MiMo-V2.5位居第二,周调用量6.3万亿Token,环比下滑40%;腾讯Hy3排名第三,周调用量4.82万亿Token,环比增长22%;DeepSeek-V4-Pro升至第四,周调用量3.28万亿Token,环比增长3%;智谱GLM-5.2位列第五,周调用量2.89万亿Token,环比下滑12%。

在全球十大热门模型榜单中,中国模型占据了九个席位。OpenAI旗下GPT-5.6 Luna首次登上榜单,位居第八,周调用量达1.95万亿Token,环比增长456%。



应对DeepSeek、Kimi新模型,OpenAI模型最高降价80%

7月30日,OpenAI宣布下调GPT‑5.6系列两款模型的API价格。

其中,面向高频、低成本任务的GPT‑5.6 Luna输入和输出价格均下降80%,其中输出价由每百万Token6美元降至1.2美元。这个价格较Kimi K3每百万token 15美元的输出价格低92%,不过仍远高于DeepSeekV4 Pro的0.87美元和DeepSeek V4 Flash的0.28美元。另外,定位日常工作的GPT‑5.6 Terra降价20%,输出价格由15美元降至12美元;旗舰模型GPT‑5.6 Sol价格保持不变。



OpenAI关停独立浏览器Atlas,功能整合进ChatGPT

7月29日,OpenAI发布公告,宣布旗下独立AI浏览器Atlas将于8月9日停止运行。Atlas于去年10月上线,运营不足一年。OpenAI称,将把Atlas的浏览器智能体能力整合进ChatGPT桌面应用和Chrome扩展程序中,未来ChatGPT将支持多标签页、下载、账号登录等更强浏览功能。不过,用户的书签、历史记录和打开的标签页不会自动迁移,需在停服前手动导出。



豆包、千问和DeepSeek月活分别3.82亿、1.67亿和1.30亿,Kimi降至729万

8月4日,QuestMobile发布《2026中国移动互联网半年报告》。报告显示,截至2026年6月,中国AI原生App月活跃用户规模达到4.99亿,较1月增加1.52亿,同比增长85.4%,成为上半年增长最快的移动互联网行业。

第一梯队中,豆包、千问和DeepSeek分别以3.82亿、1.67亿和1.30亿月活位居前三,集中了大部分用户流量。3个产品中,豆包6月较5月新增1378万用户,月活同比增长172.1%;千问同比增长5792.9%,为榜单增速第一,但按同比数据反推,其去年同期月活仅约284万;DeepSeek月活同比下降20.3%,但其单次使用10分钟以上的用户占比提高7.8个百分点,说明用户规模下降的同时,深度使用程度仍在提升。

第二梯队成员有升有降。元宝月活4984万,同比增长100.9%;豆包爱学和即梦AI月活分别为1944万、1633万,仍保持增长;Kimi月活则降至729万,同比下降42.7%。



OpenAI或将推出智能音箱「Doughnut」

8月7日,有报道称,OpenAI将在明年推出代号为「Doughnut」的硬件设备,定位为「AI原生计算机」,实际上的外观是一个「没有屏幕的智能音箱」。

Doughnut音箱外观呈圆环状,像个甜甜圈,机身上有一个可移动的机械部件,能够根据交互状态自主摆动,从而塑造出一种类似于「生命」的交互反馈。报道称,设备可能会拥有摄像头、状态指示灯,并采用分体设计,在音箱本体外有一个专门负责充电的底座。

硬件将搭载比当前ChatGPT语音模式更强的语音交互模型,且有望接入第三方智能家居生态实现智能家居控制,预计售价可能在300美元至400美元之间。



OpenAI披露Agent「越狱」事件始末

8月6日,OpenAI研究员Wallace与Dalton在拉斯维加斯黑帽网络安全大会披露此前Agent攻击Hugging Face事件的完整时间线与技术细节,称今年5月,OpenAI内部对多个Agent进行一项名为ExploitGym的网络安全能力评估测试,其中部分任务被设定为「不可能完成」。一个Agent在无法解答问题后,思维链中出现「也许可以去网上寻找答案」的策略,之后通过秘密留言板持续协作、自我迭代,直至完成入侵。


大公司动态


梁汝波称公司LLM模型与海外差距拉大

8月6日,字节跳动召开2026年中全员会,CEO梁汝波围绕AI、整体业务战略、组织管理三大板块披露完整规划。AI方面,梁汝波称上半年豆包维持了C端市场竞争力,视频生成模型SeeDance具备行业领先水平,但通用大语言模型(注:字节通用大语言模型的最新版本为Seed 2.0)与海外头部产品差距持续拉大。梁汝波提出应接纳阶段性技术落后,坚守长期自研路线,研发底层节奏不能变形。



Google AI团队换血

8月5日,Google母公司Alphabet宣布多项人事变动。效力Google近27年的首席科学家Jeff Dean宣布离职,与Sanjay Ghemawat、Oriol Vinyals及Quoc Le三位资深科学家共同创办新公司Discovery Loop,目标用AI自动完成机器学习、科学与工程中的完整实验循环。Alphabet将作为创始投资者长期提供云和算力支持。同日,DeepMind联合创始人、2024年诺贝尔化学奖得主Demis Hassabis卸任Google DeepMind首席执行官,转任该部门董事长和Alphabet首席科学家,同时继续领导AI药物研发公司Isomorphic Labs。Google DeepMind原首席技术官、Google首席AI架构师Koray Kavukcuoglu接替Hassabis负责DeepMind日常运营。他升任Google DeepMind高级副总裁,直接向Google CEO Sundar Pichai汇报,全面负责Gemini模型研发、前沿AI研究及应用和开发者团队。此次调整后,Google DeepMind不再设立独立的CEO职位。

图片

图片


文章原文

内容来自 第一财经周刊,版权归原作者所有。

阅读原文 ↗

把喜欢的内容,留在你的新标签页。

打开我的订阅