#记忆机制

MILES: 模块化指令记忆实现LLM推理自我提升

🔍 发生了什么：提出MILES框架，让LLM在推理过程中动态积累可复用的经验记忆，而非像现有方法那样每次从零开始。通过粗-细两级检索机制和可学习的选择头，在测试时持续优化推理能力。 💡 技术原理：维护模块化记忆单元——由子目标嵌入和子指令的非对称对组成，每个关联一个可学习的选择头。粗粒度检索用于记忆扩展和监督采集，细粒度检索用学习到的选择头重排候选并引导推理。 🔧 忥速上手：核心思想是将成功的推理步骤抽象为可检索的记忆片段，新问题到达时先检索相关经验再推理，逐步积累形成Agent的"经验库"。 🎯 应用场景：数学推理、代码生成、复杂问答等需要逐步推理的任务，特别适合问题持续到来的流式场景。 🔗 相似技术：Reflexion、Voyager技能库、MemGPT、ExpeL。 💴 商业潜力：★★★★☆ 测试时自我提升是降低推理成本的关键方向，记忆复用可显著减少重复计算。 📚 学习路径：理解CoT推理 → 学习检索增强生成(RAG) → 研究记忆机制设计 → 实践MILES框架。