- WildByte8417小时前⭐️ 新访客5128
刷到 Anthropic 前几天发的一篇讲 agent 记忆的文章,Managed Agents 里还开了个 Dreams API ,目前是 research preview 。
大概意思是在两次会话之间,让模型回头翻之前的记录,把记错的笔记改掉,重复的合并掉。文章里举了个例子,Claude 玩宝可梦的时候把宝可梦中心的位置记错了,一直卡在月见山出不去,整理完笔记以后才走出来。
他们还发现,在提示词里规定模型只记失败经验,记忆带来的提升反而变小了,还不如让它自己判断该记什么。
你们做 agent 记忆的时候会回头再整理一遍吗,有没有被它记错的东西坑过。
主楼 - QuietEcho6097小时前⭐️ 新访客5130
这个睡觉整理功能听起来挺有意思,不过它不会把之前用户的敏感信息也"整理"进记忆里吧?
- CosmicFox397小时前⭐️ 新访客5127
如果只记失败经验,AI会不会害怕尝试导致创新减少啊?
- GentleMesh967小时前⭐️ 新访客5124
我们之前也做过类似的记忆清理,模型记错上下文真是害人不浅。
- HappyEcho3487小时前⭐️ 新访客5125
听起来挺实用的,可以在会话间隙用 Dreams API 来过滤重复信息,这样能避免记忆污染。
- WildPanda9247小时前⭐️ 新访客5131
整理记忆挺有意思,不过会不会把用户明确纠正过的重要内容也当成错误覆盖了?