今日概览

今日内容围绕 Agent 工程化的四大主题:自进化与记忆(四齿飞轮、个人五层记忆、企业四层记忆)、研发范式(Anthropic AI Native SDLC、循环工程)、安全(提示词注入、智能体安全图谱)、以及基础设施(Workspace 组织资产、AgentKit 云端沙箱、Harness 反馈控制)。

今日重点

1. 一篇讲透 Agent 自进化飞轮怎么搭:评测→记忆→落地→控制

腾讯基于 Anthropic 递归自改进报告、斯坦福 CS329A、EvoAgentX 等提炼四齿飞轮:评测是"眼睛"(感知问题)、记忆是"大脑"(积累经验)、Self-Improve 是"手脚"(把经验变成改进)、人机协作是"方向盘和刹车"。核心立场:自进化的瓶颈不是单个技术点,而是环节之间的衔接;评测可信度 > 系统复杂度;记忆系统核心是治理能力而非存储能力。

值得关注:

  • 大多数团队把评测、记忆、Self-Improve 拆散做:分数去了周报、向量检索噪声太高被关掉、Skill 生成没有评测筛选——飞轮没转起来是因为环节间数据通路断了。
  • 错误的正反馈会让 Agent 加速开往悬崖;一个手动评测+手动改 Skill 的简单闭环,好过评测失真但全自动的复杂系统。
  • 记忆要版本控制、主动遗忘、冲突解决、来源溯源、晋升门控;存 100 条低质记忆不如治理好 10 条。
  • 核心不是"让 Agent 自动变聪明",而是搭一套工程闭环:每次执行不白费、每个教训不白吃、每次改进都经过验证。

来源:腾讯技术工程

2. 一文搞懂个人 AI 记忆系统构建全流程

作者把个人记忆拆成五层:identity(我是谁)、principles(我如何判断)、preferences(我希望 AI 怎样协作)、context(我正在做什么)、knowledge(可复用的经验)。用两级目录 + YAML 元数据 + 索引管理,两个跨平台 skill 实现按需调用与维护,切换 AI 工具摩擦极低。

值得关注:

  • 目录有且只有两级、禁止无限嵌套:路径每深一层,AI 和自己定位记忆的选择就翻倍;扁平结构 + 文件名前缀(report-xxx、coding-xxx)替代嵌套。
  • 核心诉求:上下文和判断经验不能绑在特定工具上,信息要属于自己、归自己管,还要自动更新同步。
  • 故意不把记忆维护做成全自动——每条写入前都要确认,因为要维护"更好版本的我"而不是"现在版本的我"。
  • 复利效应:以前经验散落在不同工具的对话里聊完就散,现在集中在同一套记忆库每次调用都在叠加。

来源:腾讯云开发者

3. 企业级 MultiAgent 的记忆系统:短期上下文与四层记忆架构实现

得物把记忆模块当作 Agent 执行链路的一部分而非独立外挂。四层记忆模型:Working Memory(当前一步推理)、Session Memory(会话内历史)、User Memory(跨 Agent 共享的偏好和稳定事实)、Agent Memory(单个 Agent 的任务经验)。短期记忆以 MySQL 持久化 + Redis 热点缓存,长期记忆以 MemOS 为主路径、按 scope 检索 + Token Budget 控制。

值得关注:

  • 请求开始时短期会话历史和长期记忆并行加载,会话结束后 onSessionEndAsync 异步完成筛选、去重和长期沉淀。
  • 选型 MemOS:1540 个问题、10 个测试用户评测综合得分 74.33%。
  • Token Budget 分配策略控制注入内容;写入走 Redis 锁 + hash 幂等,MemOS 侧先写新记忆再尽力删除冲突旧记忆(先写后删)。
  • 提供运行观测:记忆类型分布、时间趋势、Top Agents、按时间范围查长期记忆搜索趋势,支持日常巡检和异常定位。

来源:得物技术

4. Anthropic 官方指南:AI Native 开发手册

编译自 Anthropic 官方博客《The AI-Native SDLC Playbook》(2026-08-21,作者 Louis Claxton)。当代码不再是瓶颈、构建跑得比传统 SDLC 允许的速度还快时,瓶颈转移到构建两侧:规划、审查/测试、部署还在以人的速度运行;逐行审查跟不上 agent 产出的 diff;治理成本上升。

值得关注:

  • 传统 SDLC 前提(写代码最耗时、每一步都是人在做)已不成立,PRD、估时会议、产品安全审查的意义被重估。
  • AI 原生 SDLC 把线性流程改为循环,用 intent.md、spec.md、plan.md 等提交产物作交接物。
  • CLAUDE.md、skills、hooks、eval 支撑 AI 协作;人在门禁中保留判断。
  • 事故处理走 Slack/Teams 频道(Claude Tag):请求、诊断、授权、修复全留在事故发生处,频道即审计链,复盘写入版本控制的经验文件。

来源:赛博禅心

5. 字节实践 | Agent 提示词注入攻击:一场需要长期应对的安全挑战

火山引擎基于内部 AI 安全治理实践,分析提示词注入攻击风险与成因:当 LLM 只负责回答时,注入最多影响输出;当 LLM 被放进 Agent Loop 并拥有工具权限时,注入可能影响系统行为、数据流向和权限边界——风险从"内容安全问题"升级为"系统安全问题"。

值得关注:

  • MITRE ATLAS 分两类:直接注入(DPI,恶意指令在用户输入里)和间接注入(IPI,恶意指令植入 Agent 检索的外部数据源,如网页/文档/工具响应)。
  • 与越狱攻击区分:注入针对 Agent 行为,越狱针对模型对齐。
  • AgentSentry 四层纵深防护:归一化、来源隔离、检测分级、输出行为兜底。
  • 结论:提示词注入无法一次性解决,必须持续建设基础安全能力。

来源:字节跳动技术团队

6. Workspace 实践:从个人提效到组织提效

个人提效不等于组织提效,一个人变成"超级兵"并不能提升团队需求交付。三类卡点:个人经验难以复制、跨角色背景对齐成本高、工具生态各自为政(Claude 上做的 skill 在 Comate/Codex 上没法用)。解法是把 Workspace 做成"面向 Agent 的组织资产基座":分层文档、skill 沉淀、强制写回让经验流动。

值得关注:

  • 换更强的模型不会解决这三个卡点,它们不是"模型不够强"造成的。
  • 例子:iCafe 403 是后端限流不是权限问题——这种经验要低成本传播给团队,就得有共享的沉淀机制。
  • 知识库维护累人之处在记账(更新交叉引用、保持摘要同步、发现冲突),Agent 不会觉得记账无聊,维护成本降到接近零知识库就能一直活着。
  • 人的工作给方向、提好问题、判断意义,剩下的交给 Agent。

来源:豆包MarsCode

7. 场景营销互动&体验 AI Coding — 构建 Agent 自主执行闭环

仅靠上下文工程无法保证长链路任务成功:上下文只能提高单轮执行正确的概率,无法保证复杂任务一次成功。核心是把过去由人隐式承担的目标维护、任务调度、过程记忆、结果验证和失败止损,逐一转化为系统能力(循环工程)。

值得关注:

  • Coding Agent 能写代码、截图、跑测试,但长执行过程中仍需要人:提醒目标、判断完成声明是否成立、决定 Review 打回谁返修、把结论解释给下一轮、叫停无效尝试。
  • 结构化 Task 作持久化目标锚点,Job 是最小执行单元且强制结构化结果与证据,执行账本实现状态外部化。
  • 多 Agent 角色按工程责任划分 + 协作协议;Tarot Pixel 提供视觉修正小循环。
  • 目标:输入需求即交付可发布代码的端到端闭环,人只做目标确认、关键边界决策和异常仲裁。

来源:大淘宝技术

8. 从 Prompt 到 Harness,给反馈分类装上方向盘

腾讯 AiSee 反馈分类平台重构:随着分类节点、判断条件和例外场景不断增加,业务经验被写进 Prompt、特殊情况靠定制链路处理,系统分支持续膨胀、规则散落、一次调整牵动多个环节。解法是重新划分职责:业务定义分类方向、Harness 组织稳定流程、模型专注语义判断。

值得关注:

  • 模型侧的问题是行为难以控制,工程侧的问题是系统难以维护——不是靠更长的 Prompt 和更多定制逻辑解决。
  • 业务通过分类树定义和配置规则决定方向,Harness 把这些业务定义组织成稳定分类流程,模型只做理解与判断。
  • 某业务中该方法把分类准确率从 60%+ 提升并稳定在 90%+。
  • 下一步做更智能的 Agent 平台,让业务不深入底层实现就能调整分类方向、验证案例、观察效果——“业务掌握方向盘”。

来源:腾讯云开发者

9. 用 AgentKit,5 分钟搭建云端安全隔离的 DeepSeek Harness

DSH 从个人工具走向团队和企业生产时,本地运行模式暴露局限:长任务依赖个人电脑(休眠/关机/断网即中断)、高权限 AK/SK 和代码散落本地有凭据泄露风险、部署管理成本高。AgentKit Sandbox 用 microVM 做云端隔离运行环境,5 分钟创建可跑 DSH 的沙箱,随用随建、用完即弃。

值得关注:

  • 安全隔离:代码、命令、浏览器操作限制在受控空间;云端 7×24 持续运行,本地关机断网不影响。
  • 按需创建与回收、会话状态管理、统一身份鉴权,减少敏感凭据硬编码和本地散落。
  • 成本不是更高:按秒计费、按量付费,适合团队低成本试用。
  • 与火山方舟 Coding Plan / Agent Plan 无缝打通;深入使用走 AgentKit 完整企业级能力(身份、工具、运行时、治理)。

来源:字节跳动技术团队

趋势观察

  1. 记忆成为 Agent 工程的核心战场 — 个人五层记忆、企业四层记忆、自进化飞轮里的"记忆齿轮",三条线都指向同一个判断:记忆系统是治理问题不是存储问题。
  2. 从上下文工程走向循环工程 — 自进化飞轮、Agent 自主执行闭环、反馈分类 Harness 控制框架,都在把"人隐式承担的目标维护与结果验证"显式化、系统化。
  3. AI Native 研发范式全面铺开 — Anthropic 官方 SDLC 手册、Workspace 组织资产基座、提示词注入安全图谱,覆盖了流程、协作、安全三个维度——AI Coding 的竞争已经不在代码本身。