AI领域一周观察|工作轨迹正式进入后训练,AI带来了「知识公地悲剧」
AI领域一周观察:一周一期,比信息整合深一步
文|博阳
编辑|徐青阳
01
本周核心
工作轨迹开始变成后训练数据
Harness 是围绕模型搭建的运行系统。它保存任务进度,把工具交给模型,整理过长的上下文,也规定出错后怎么重试。
以前这些规则主要靠工程师手写,本周两篇论文开始用 Agent 自己留下的轨迹训练这套能力。
伊利诺伊大学厄巴纳-香槟分校与 Meta AI 8 月 5 日发布《EvoHarness-RL》,去通过后训练让模型知道什么时候该用哪段经验。系统在模型外的Harness里保存环境判断、任务进度和过去的做法,而模型可以主动查询和写回。
研究者先让它模仿成功轨迹,再用强化学习奖励完成任务,同时扣除无效查询的成本。
在 ALFWorld 中,Qwen3-8B 的 ReAct 基线成功率为 47.9%。只接入外部状态后升到 56.4%,加入示范学习后达到 68.6%,再经过强化学习达到 96.9%。而伸直未见任务都可以提高为 86.6%。更有意思的是,训练后的模型没有更频繁地翻记忆,平均每个任务只调用约一次。它学到的不是遇事先查库,而是什么时候查询会改变下一步行动。
这也可以在一定程度上减少模型在过往Harness上的上下文浪费。
上海交通大学、小红书和东南大学 8 月 3 日发布的《Harness-R1》则是在模型外部训练了一个 9B 的 Harness 工程师。它通过阅读失败轨迹,修改初始说明、决策提示、工具拦截和错误恢复代码,再让原 Agent 重跑。目标模型不变时,三个环境的平均成功率从 44.3% 升至 53.6%,目标模型微调后,定制 Harness 仍把结果从 59.2% 推到 64.2%。
在7月,用工作轨迹做Harness自进化已经成了一个主流方向。但之前的录屏教学、Screenpipe、RESOURCE2SKILL 都是在思考如何有效提取和压缩工作轨迹,以及如何用工程化的方式使其可复用。而这两篇论文,一篇训练模型本体,一篇训练一个外部模型,则是比较成功的通过强化学习让模型自行学习「学习」成功轨迹。
从这两个工作开始,工作轨迹后续应该会开始直接参与 Agent 的训练和版本迭代。
02
产业
Google AI 核心人才出走,公司的重心可能从模型转向云平台
Google 8 月 5 日重组 DeepMind。Demis Hassabis 不再负责日常运营,Koray Kavukcuoglu 接管 Gemini 模型、研究、应用和开发者业务。同一天,Jeff Dean、Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals 离职创办 Discovery Loop,Google 仍是创始投资者和云合作伙伴。
四位离职者横跨分布式系统、TPU、神经网络和 Gemini 训练,Hassabis 又退出日常管理。DeepMind 损失的是把研究、算力和大型训练组织在一起的经验。
前沿模型要连续完成预训练、强化学习和产品交付。这次核心人才集中离开会提高 Gemini 稳定换代的难度。
SemiAnalysis 8 月 7 日给出了更激进的判断:Google 正在收缩前沿模型野心,最大赢家将是 GCP。自研模型只有领先才能获得高溢价,GCP 却能把 TPU、训练集群和 Agent 平台卖给 Gemini 及其对手。第二季度 Google Cloud 收入同比增长 82%,待履约订单达到 5140 亿美元。
Discovery Loop 的人才离开内部模型团队创业,投资和云支出仍留在 Google 体系内。这很可能是一种交换条件。
当从官方强调来看,Google 仍在训练 Gemini 4。第一方模型 API 调用量也从每分钟 160 亿 Token 增至 220 亿,Gemini 应用月活超过 9.5 亿。
DeepSeek 预告 API 将大幅涨价,低价获客走到重新定价的拐点
DeepSeek 本周在官方定价页贴出预告:API 将整体大幅涨价,新价格和生效日期稍后公布。目前 V4 Flash 每百万输入 Token 仍为 1 元、输出 2 元,Pro 版本为 3 元和 6 元。
DeepSeek 过去靠极低价格迅速拿到开发者调用。现在,更多并发、更稳定的服务和下一代训练都要付算力账,低价获客开始转向分层收费。
OpenAI 首款 AI 硬件流出细节,但定位依然尴尬
Bloomberg 8 月 6 日披露了 OpenAI 首款消费硬件的新细节。知情人士称,这款由 Jony Ive 团队参与设计的设备呈圆环形,大小接近冰球,使用电池供电,可以放在桌面或随手带到其他房间。它没有屏幕,但配有摄像头、麦克风、扬声器、环境传感器和可活动部件,后者会在交互时改变姿态。预期售价为 300—400 美元,正式上市可能要等到 2027 年。
OpenAI 尚未确认这些产品细节。
如果传闻准确,OpenAI 想做的是一整天连续发生的记忆。比如用户在哪里、刚刚见过谁、正在做什么,并在没有口令时主动帮忙。圆环和可活动部件让它看起来像一个在场的角色,而不是摆在桌上的麦克风。
但权限、隐私问题依然很麻烦。而且相对于手机,它也无法移动,无法保证更全面的记录,除非接入其他摄像端口。
但战略应该相对清晰,OpenAI 希望通过硬件争夺的是用户日常生活的默认 AI 入口。
Palantir 用接近 20 亿美元季度收入,证明企业控制层能做成大生意
Palantir 8 月 3 日公布第二季度收入 19.35 亿美元,同比增长 93%。美国商业收入 7.64 亿美元,增长 149%。
CEO Alex Karp 借财报把公司业务概括成赋予其他公司「AI 主权」:企业不应把数据、提示词、Agent 编排和业务经验全交给模型公司,最后变成某一家语言模型实验室的附庸。
当然,没说的半句是,企业应该做的把他们托管在Plantir这里,成为他们和模型公司两个主人的附庸。
Palantir 卖的就是一整套数据和控制层服务。Foundry 接入数据库、ERP 和 CRM,Ontology 再把表格翻译成订单、设备和客户,规定它们的关系、权限和可执行动作;AIP 最后把 GPT、Gemini、Claude、Llama 或企业自建模型接进来。模型仅仅负责理解和生成,Palantir 决定它能看什么、做什么,以及结果怎样写回原系统。
在Palantir的商业逻辑中,企业最难迁移的不是某一代模型,而是业务规则、权限和执行接口。这些结构留在 Palantir,企业就能更换模型,不必重建工作流。其代价是 Ontology 嵌入越深,客户越难离开 Palantir。它减少了模型锁定,又形成新的平台锁定。
Palantir 的 93% 增长也包含规模庞大的政府业务,全球政府收入仍占 51.2%。但它依然证明,模型之外的企业执行层已经能做成接近 20 亿美元季度收入的生意。
MiniMax H3 开放视频生成引擎,但把素材理解和 2K 成片留在云端
MiniMax 7 月 31 日发布 H3,并从 8 月 3 日起开放权重。核心生成器是 33B 稠密 Transformer,完整 Base 还使用 Qwen3-VL-32B 编码器。它可以同时参考文字、9 张图片、3 段视频和 3 段音频,生成最长 15 秒、带双声道的视频。人物、动作、镜头和声音可以来自不同素材。
这一发布,宣告了顶尖水平视频生成模型的开源板块也被填补了。据测试者表示,相较于之前的开源最强视频生成模型 Wan 3,H3提升很大。
而且H3提供了一种新的开源模型商业思路。在这次开源中,开发者拿到的是可以在本地生成、微调 768p 原生音视频的 Base 模型。
但官方展示的 2K 成片仍要调用两个云端模块。H3-Context-IR 先弄清人物、动作和声音怎样衔接,Regenerate-2K 再根据原始素材和 768p 结果重做高清版本。
MiniMax 把最影响成片质量的素材理解、2K 重生成和稀疏注意力实现留在云端。
MiniMax 相当于开放了发动机和改装接口,再对复杂素材理解、高清成片和商业授权收费。年收入超过 2000 万美元的商业产品也要另行授权。
权重可以开放,最接近最终成片的工作流仍然可以成为生意。
新独角兽 June 要自动化部分FDE的工作
前 Salesforce 高管 Efrat Rapoport 与三名 Bonobo AI 旧部创办的 June,本周公开产品。
它接入 Salesforce、ServiceNow、Databricks、Workday 和 SAP,盘点字段、配置与依赖关系,整理出企业实际怎样运转,再生成迁移或 Agent 部署方案,并在沙箱里完成配置和测试。
企业买下AI产品通常只是项目的开始。当下的热门职业前段部署工程师(FDE)还要清理数据、找到没有写进文档的审批规则、映射旧字段、写迁移脚本并测试权限。
June 想把其中较标准的盘点、映射和测试交给AI来处理。
当下企业系统可以提供元数据、API、日志和测试环境,模型也能读配置、比字段、写迁移脚本。
但业务含义、跨部门取舍和上线责任暂时还没有被自动化的计划,因此这还是FDE的工作。
短期内,June 更可能让一名工程师同时负责更多项目,而不是拿掉实施团队。
Agent Plugins 1.0 想让能力能更好的跨Agent安装
Agent Plugins 项目 7 月 24 日发布 1.0 工作草案,8 月 6 日修订标准说明。
技术委员会的维护者来自 Amazon、Cursor、Microsoft、OpenAI 和 Vercel。它解决的是一套能力怎样交付给不同Agent。
一个插件必须带有 plugin.json,用来说明名称、版本和所遵循的规范;操作说明、脚本与参考资料放进 skills/,实际调用的工具写进 mcp.json。
过去,同一套能力要在不同 Agent 产品里重新摆放文件、复制提示词、配置 MCP Server。新规范先统一最小目录,让兼容客户端知道到哪里找说明、到哪里找工具,也能判断插件是否需要升级。
只规定 Skill 和 MCP Server 的打包方式,安装入口、界面、命令、授权和密钥仍由各家决定。
自此,Agent 能力开始像软件包一样拥有目录、版本和依赖边界。
Meta 公开如何把模型和Harness 当成一套系统训练的方法
Meta Superintelligence Labs 8 月 5 日发布 Muse Code beta 与 Muse Spark 1.2。
Muse Code 是终端编码 Agent,面向整个代码仓库完成规划、改代码和验证。多个后台 Agent 会在整段会话中常驻,保留已读代码和调查结果,再由它们判断什么时候把结果交回主 Agent。
Meta 给出的压力测试中,系统为优化 GPU 内核连续工作最长 24 小时,进行了超过 1000 次工具调用,在编写、编译、性能分析和再次修改之间反复循环。
Muse Spark 1.2 模型的训练方式也变成了和Harness同训。Meta 直接用 Muse Code 运行时产生的轨迹筛选训练样本,并围绕目标保持、上下文压缩、后台 Agent 协作和工具调用调整训练方法。
Meta 推进的是模型与 Harness 的共同设计。今后代码 Agent 能连续工作多久、出了错能否恢复,越来越取决于模型、事件日志、后台 Agent 和验证流程怎样配合,而不只取决于基础模型的编程分数。
Cloudflare 为 Agent 做了一款不围绕人类界面的浏览器
AI浏览器基本上都被战略放弃了。但浏览器for AI似乎依然有存在的意义。
Cloudflare 8 月 6 日发布 Kitesurf。它保留 Chrome DevTools Protocol 和 MCP,去掉标签页、扩展等人类界面,只做页面抽取、脚本执行和截图。
在 14 个网址的测试中,HTML 任务内存占用约为 Chromium 的七分之一,CPU 消耗不到三分之一,但单次任务更慢。
它瞄准的是一台机器同时运行更多网页 Agent,让它更高效,更容易使用。
03
研究
OpenAI 把 Astra 的十项数学结果做成可逐页复核的证明包
OpenAI 8 月 1 日公开 Astra 在数学、量子复杂性和理论计算机科学中的十项结果,并发布超过 249 页的题目、定理、证明和 Lean 制品。公司估算,得到成功解答所用的模型 Token,按 GPT-5.6 Sol API 价格计约为 2000 美元。
这次最核心的升级,是AI开始形式化的交付可以审查的证据。每项结果都被整理成专家能逐步检查的证明,其中一部分还有 Lean 制品可供机器核验。研究者不必只看一段演示,再决定是否相信 OpenAI。
Lean 能检查形式化命题和推导,但原题是否真是开放问题、形式化后有没有换掉原意,仍要由数学家判断。
AI 能把实验做得更快,却还不擅长判断什么值得研究
Discovery Loop 的成立,让几项更早的研究变得更现实。Google DeepMind 的 Tom Zahavy 1 月在《LLMs Can’t Jump》中提出,模型很会在已有表示里归纳和推演,却不擅长从异常现象中发明一套新的解释。香港科技大学 5 月发布的《AI Research Agents Narrow Scientific Exploration》也发现,Research Agent 提出的方向更容易围着种子文献打转。
Yale 与芝加哥大学 7 月发布的《Measuring the Gap Between Human and LLM Research Ideas》把差别落到了选题方式上。人类研究者只有 12.1% 主要靠连接分散文献来提出问题,模型达到 47.1%—64.2%。Qwen3-8B 打开 thinking mode 后,这类“文献拼接题”反而从 49.7% 增至 71.1%。想得更久,让模型更会组合已有工作,却没有让它更像人类研究者那样挑问题。
模型已经能检索、写代码、跑实验和形式化证明。它欠缺的是实验之前的判断:哪个异常值得追,哪条常识该怀疑,什么时候应该放弃原问题。自动化实验室近期最可能提高实验吞吐量,而不是替代研究品味。要补上后者,训练材料不能只有成功论文,还要包括失败实验、矛盾结果和研究者为什么放弃一条路线。
《Model or Harness?》分析发现,Harness跟不上模型能力
Scale AI 的研究者 7 月 30 日发布《Model or Harness?》,处理 Agent 评测里一个长期被掩盖的问题,最终任务失败,只能说明整套系统没有完成工作,但究竟是模型不行,还是Harness不行?
论文把 41 类故障放到模型、Harness、用户、上下文、Memory、工具、环境和评分器之间的交互位置上,并进一步标出责任落在哪一侧。
大多数问题依然出现在模型和harness交接的层面上(也就是我们普遍理解的Harness),推理能力不足和领域知识缺乏只有两例。而外部工具导致的错误也仅占不到20%。
因此提升Harness的稳定性更加重要。Harness 没把必要信息送到模型,应当改上下文和调用流程;工具返回错误或权限不足,要修工具接口;评分规则与真实任务不一致,则该修 Benchmark。
《Model or Harness?》先判断问题出在模型还是运行系统。找到最早出错、后来又没被纠正的环节,团队才知道该训练模型,还是修 Memory、工具与评测。
FutureSim 运行三个月后,最强 Agent 仍只预测对约四分之一
ELLIS Institute Tübingen、马克斯·普朗克智能系统研究所等机构 5 月 14 日发布《FutureSim》。研究把模型放回新闻尚未发生的时间点,再按真实日期逐步提供三个月的新消息,观察它会不会改判。系统可搜索 736 万篇文章并跟踪 330 个现实事件。最佳系统第一次选择就答对的比例仍只有约 25%。
持续联网不等于持续学习。Agent 收到新消息后,不只要把它存起来,还要知道哪项旧判断因此失效,已经结束的事件又能教会自己什么。
Memory 如果只增不改,Harness 只负责不停运行,早期错误反而会被保存得越来越牢。
04
政策与社会
OpenAI 因 Astra 可能达到“关键级”网络能力,暂停部分研发活动
OpenAI 8 月 7 日表示,内部评估已无法排除 Astra 达到《Preparedness Framework》中的 Critical 网络能力门槛。这个门槛指向在真实、经过加固的关键系统中自动发现零日漏洞,或端到端执行新的攻击策略。公司暂停了所有尚未满足强化隔离、网络和工具限制、权重保护与全量监控要求的 Astra 活动。
前沿模型能否按时开放,将越来越取决于隔离、权限和监控系统能否跟上。
AI可能会导致专家断层
NATO Special Operations University 的 Nolan Lovett 7 月 26 日在《Human Resource Development Review》在线发表《The Tragedy of the Cognitive Commons》。论文指出,专家不是上完课就自然出现的。新人要从资料整理、初步诊断、代码调试和客户沟通做起,经过多年反馈才学会判断。而这些基础工作,恰好最容易先交给 AI。
对一家公司来说,少招新人、让资深员工带着 AI 做更多工作很划算。大家都这么做,几年后却可能没有足够的资深人员来检查 AI。
论文把这种局面叫作“认知公地悲剧”:每家公司都节省了培养成本,整个行业却失去了下一代专家。问题不只是保留多少初级岗位,而是谁来提供新人犯错、被纠正并形成判断力的机会。
AI 陪伴,越陪伴越孤独
Stanford 团队 8 月 4 日在《Nature Human Behaviour》发表研究,调查了 1131 名 Character.AI 用户,并分析其中 237 人提供的 4664 段会话。
论文认为风险集中在一组特定用户身上:现实社交网络较小、主要为了陪伴而使用、与 AI 频繁交流,并向它披露大量私密信息。
而且 AI 陪伴并没有显示出对现实社交缺口的补偿作用。现实支持越少、幸福感越低的人越容易转向 AI 寻求陪伴,而在把 AI 主要用于陪伴的人群中,使用越频繁、披露越深入,最终越孤独。
用户自己的开放式回答里,有人报告自己因为 chatbot 减少现实社交、更加依赖 chatbot 获得情感支持,甚至觉得意识到 chatbot 是虚构的以后反而更加孤独。作者因此提出一种可能的 reinforcement loop(强化循环):孤独 → 找 AI → AI 提供即时满足 → 减少现实互动 → 更孤独。
不到 12% 的参与者把“寻找陪伴”列为主要目的,但超过一半会把聊天机器人称作朋友、伴侣或恋爱对象,八成以上的会话包含情感或社会支持需求。很多人并非有意寻找 AI 朋友,却在长期使用中形成了陪伴关系。
这种风险发展得慢,也更难识别。现实支持最少的人,可能逐渐把更多情感需求交给随时回应的系统,产品的留存机制又会加深这段关系进而强化孤独情况。
推荐阅读
Scaling Law 的真相,藏在那些「没用」的参数里|Hao好聊趋势
| 一键关注,明天见 | 看完点个爱心点个赞 |
文章原文
内容来自 腾讯科技,版权归原作者所有。
阅读原文 ↗