如今程序员面试,为什么都问Agent?(代码,架构图,提示词,PPT都分享)

昨晚直播《Agent原理与实践(1)》,今天发个纪要,文末把资料分享给大家。


本周直播AI编程个人10倍提效,欢迎预约。


《Agent原理与实践(1)》纪要。


【模块一:基础知识】


知识点一:大模型没有记忆。



知识点二:token是最小单位,token就是钱。

表达相同的意思,中文存储空间小,但token消耗多。

如果说普通聊天token消耗是1,Agent消耗就是4,多Agent消耗就是15(上下文要复制很多份)。

多Agent确实能提速,但站在成本的角度,未必好(token就是钱)。


知识点三:为什么模型会遗忘。

硬限制:上线文有限。

软限制:上下文腐烂。


注意力机制决定了,性能随着token的增加,平方级下降。


小结

Agent架构设计,重点就是考虑:

1. 记忆怎么设计?

2. token怎么节省?

3. 上下文放哪些东西?


知识点四:幻觉是由大模型的机制决定的。

1. 训练阶段,只看到概率;

2. 评估阶段,瞎猜评分更高。


知识点五:如何尽可能的降低幻觉?

1. 提示词提醒,效果有限;

2. 根本方法,是要做验证(大模型说什么不算,Agent进行验证才行)


知识点六:什么样的任务适合交给大模型?

判断标准就一句话:是否能够被低成本验证。


例如:写代码,做翻译,改文章。

为什么编码Agent最先火起来?


小结:关于“幻觉”,对Agent设计的启示?

1. 不要想着消灭幻觉,这不可能;

2. 降低幻觉,核心是验证(Agent里要有验证步骤,例如SDD的spec验证,TDD的test case验证);

3. 能低成本验证的业务场景,才适合用垂直Agent来解决;


知识点七:上下文不够的问题,怎么解决?

核心解法:按需加载(下一讲会更细致的讲)。

skill的渐进式披露,就是典型。

MCP没有渐进式披露,非常消耗token。


知识点八:上下文的处理方法1,丢弃。

丢弃最久的,简单粗暴,不推荐。


知识点九:上下文的处理方法2,压缩。

留哪一些?

1. 关键决策及理由;

2. 未完成事项及状态;

3. 中间结论;


丢哪一些?

1. 工具原始输出;

2. 琐碎的过程;

3. 客套话;

这三招能降低99%的token消耗。


知识点十:上下文的处理方法3,落盘。

记忆,todo,handoff都可以沉淀为md文件。

RAG只是实现方式,并且也很消耗token。


小结:记忆的常见设计方法?

1. 长期记忆:落盘;

2. 短期记忆:内存;

3. 定期压缩;


知识点十一:工作流与Agent的异同是什么?

既定流程,没有不可预测分支,适合用工作流解决(控制流:代码);

难以穷举,需要大模型临时判断,适合用Agent解决(控制流:大模型);


知识点十二:Agent架构的核心,是一个二重循环。

外层循环:用户输入与agent输出的循环;

内存循环:agent不断规划,行动,评估,直到完成任务的循环;


【模块二:代码解析】

第一版mini-agent架构:

它实现了什么呢?

1. 配置读取,大模型连接;

2. 一重循环:用户输入,系统输出;

3. 二重循环:大模型输入,大模型输出(此时还没有多轮);

4. 系统提示词;

5. 全量记忆;


第二版mini-agent架构:

它实现了什么呢?

1. 垂直业务场景(sdd-site-agent),并且以外部记忆驱动业务往下走;

2. 按需注入系统提示词(需求,设计原型,技术架构,PLAN,CODE等不同阶段注入的系统提示词不同);

3. 上下文压缩;

但目前,还没有实现工具与skill。


sdd业务和上下文压缩是这么做的:


【模块三:作业+资料分享】


全量文章:

1. “架构师之路”公众号,不含测试题。

2. https://shenjian.site/,含测试题。


测试题示例:



资料下载(发布在星球)

1. 直播PPT;

2. v1和v2版本架构图;

3. v1和v2版本生成提示词;

4. v1和v2版本的源码;

阅读原文获取。


===全文完===


企业里真正的AI编程是什么样的?

AI研发工作台,SDD全流程,祖传代码AI接手,Human On The Loop,端到端的自动化,垂直Agent多智能体的编排,FDE新模式解决业务问题...


做了一个新项目,2个月(12.1-1.31),实操企业级AI编程,欢迎来玩。详见:

企业级AI编程(2个月集训)


下次直播:AI编程个人10倍提效。

欢迎预约,届时分享资料和PPT。



文章原文

内容来自 架构师之路,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab