如今程序员面试,为什么都问Agent?(代码,架构图,提示词,PPT都分享)
昨晚直播《Agent原理与实践(1)》,今天发个纪要,文末把资料分享给大家。
本周直播AI编程个人10倍提效,欢迎预约。
【模块一:基础知识】
知识点一:大模型没有记忆。
知识点二:token是最小单位,token就是钱。
表达相同的意思,中文存储空间小,但token消耗多。
如果说普通聊天token消耗是1,Agent消耗就是4,多Agent消耗就是15(上下文要复制很多份)。
多Agent确实能提速,但站在成本的角度,未必好(token就是钱)。
知识点三:为什么模型会遗忘。
硬限制:上线文有限。
软限制:上下文腐烂。
注意力机制决定了,性能随着token的增加,平方级下降。
小结
Agent架构设计,重点就是考虑:
1. 记忆怎么设计?
2. token怎么节省?
3. 上下文放哪些东西?
知识点四:幻觉是由大模型的机制决定的。
1. 训练阶段,只看到概率;
2. 评估阶段,瞎猜评分更高。
知识点五:如何尽可能的降低幻觉?
1. 提示词提醒,效果有限;
2. 根本方法,是要做验证(大模型说什么不算,Agent进行验证才行)
知识点六:什么样的任务适合交给大模型?
判断标准就一句话:是否能够被低成本验证。
例如:写代码,做翻译,改文章。
为什么编码Agent最先火起来?
小结:关于“幻觉”,对Agent设计的启示?
1. 不要想着消灭幻觉,这不可能;
2. 降低幻觉,核心是验证(Agent里要有验证步骤,例如SDD的spec验证,TDD的test case验证);
3. 能低成本验证的业务场景,才适合用垂直Agent来解决;
知识点七:上下文不够的问题,怎么解决?
核心解法:按需加载(下一讲会更细致的讲)。
skill的渐进式披露,就是典型。
MCP没有渐进式披露,非常消耗token。
知识点八:上下文的处理方法1,丢弃。
丢弃最久的,简单粗暴,不推荐。
知识点九:上下文的处理方法2,压缩。
留哪一些?
1. 关键决策及理由;
2. 未完成事项及状态;
3. 中间结论;
丢哪一些?
1. 工具原始输出;
2. 琐碎的过程;
3. 客套话;
这三招能降低99%的token消耗。
知识点十:上下文的处理方法3,落盘。
记忆,todo,handoff都可以沉淀为md文件。
RAG只是实现方式,并且也很消耗token。
小结:记忆的常见设计方法?
1. 长期记忆:落盘;
2. 短期记忆:内存;
3. 定期压缩;
知识点十一:工作流与Agent的异同是什么?
既定流程,没有不可预测分支,适合用工作流解决(控制流:代码);
难以穷举,需要大模型临时判断,适合用Agent解决(控制流:大模型);
知识点十二:Agent架构的核心,是一个二重循环。
外层循环:用户输入与agent输出的循环;
内存循环:agent不断规划,行动,评估,直到完成任务的循环;
【模块二:代码解析】
第一版mini-agent架构:
它实现了什么呢?
1. 配置读取,大模型连接;
2. 一重循环:用户输入,系统输出;
3. 二重循环:大模型输入,大模型输出(此时还没有多轮);
4. 系统提示词;
5. 全量记忆;
第二版mini-agent架构:
它实现了什么呢?
1. 垂直业务场景(sdd-site-agent),并且以外部记忆驱动业务往下走;
2. 按需注入系统提示词(需求,设计原型,技术架构,PLAN,CODE等不同阶段注入的系统提示词不同);
3. 上下文压缩;
但目前,还没有实现工具与skill。
sdd业务和上下文压缩是这么做的:
【模块三:作业+资料分享】
全量文章:
1. “架构师之路”公众号,不含测试题。
2. https://shenjian.site/,含测试题。
测试题示例:
资料下载(发布在星球)
1. 直播PPT;
2. v1和v2版本架构图;
3. v1和v2版本生成提示词;
4. v1和v2版本的源码;
阅读原文获取。
===全文完===
企业里真正的AI编程是什么样的?
AI研发工作台,SDD全流程,祖传代码AI接手,Human On The Loop,端到端的自动化,垂直Agent多智能体的编排,FDE新模式解决业务问题...
做了一个新项目,2个月(12.1-1.31),实操企业级AI编程,欢迎来玩。详见:
下次直播:AI编程个人10倍提效。
欢迎预约,届时分享资料和PPT。
文章原文
内容来自 架构师之路,版权归原作者所有。
阅读原文 ↗