最近手记
全部手记 →- 小红书 ↗
Agent评测
Agent 评测不能只判断最后一句回答是否正确,还要检查从意图理解、工具选择和参数调用到结果交付的完整执行链路,并通过 TurnTrace 与 Langfuse 记录可观测证据。
- 微信 · 小红书 · CSDN · 知乎 ↗
企业任务型 Agent 的上下文组装与长期记忆架构设计
本文从 Session、Task、Evidence、Approval、Delivery、Preference Memory 和 Knowledge Base 七个层级出发,给出企业任务型 Agent 的上下文组装、指代消解、长期记忆、Checkpoint 压缩与安全执行方案。
- CSDN ↗
LLM基础题(面试版)
大模型:一般指1亿以上的参数的模型,但是这个标准一直在升级,目前万亿参数以上的模型(MinMaxabab6.5)也有了,大语言模型(Large Language Models,LLMs)是针对语言的大模型。(1)大规模参数:LLMs拥有大量参数(如GPT-3的175B或PaLM的540B),参数数量越多,模型对语言的捕捉能力越强,可以更好的理解上下文和生成流畅的语言。(2)多任务处理能力:经过训练后,LLMs具备在多种语言任务上表现良好的能力,例如文本摘要、情感分析、机器翻译等。