AWS、Claude Code等用四套机制，破解大模型长任务“失忆跑题”难题

大模型处理长任务时，存在上下文溢出、跑题、难维状态等问题。AWS、LangChain等主流框架用四套机制解决：一是上下文预算与卸载，二是压缩，三是待办状态，四是跨会话记忆。Chroma报告称输入越长模型越不可靠，Manus透露典型任务调约50次工具。苏黎世联邦理工研究显示相关上下文文件不提升成功率，还使推理成本涨20%-23%。

技术上，这些机制基于对大模型上下文资源边际递减特点的理解，通过预算、压缩等方式优化资源使用。这不仅提升了大模型完成长任务的能力，也为后续开发更高效、稳定的AI应用奠定基础。随着长任务需求增加，这类解决方案的市场需求有望持续增长。