缓存机制优化原理

LLM prompt cache 采用严格前缀匹配机制，从第一个 token 开始逐级比对。缓存命中可显著降低计算成本和响应延迟，未命中缓存时需全量计算。

性能对比指标：

• 成本差异：缓存命中仅需约10%的计算资源
• 延迟差异：前缀部分实现近零延迟响应
• 缓存时效：典型维持约5分钟（以Claude为例）

分层结构设计

Windsurf prompt 采用六级分层架构，稳定性从左到右递减：

[系统prompt] → [记忆/规则] → [历史] → [当前请求]
  L0          L1-L3         L4        L5

层级特征：

• L0：系统内置，完全静态
• L1：全局记忆，跨会话保持
• L2：规则文件，中等变动频率
• L3：条件记忆，会话级生效
• L4：对话历史，持续增长
• L5：即时请求，每轮更新

规则触发策略

三类触发机制对缓存的影响：

触发类型	行为特征	缓存影响
always_on	强制加载到prompt前缀	持续占用缓存空间
model_decision	语义匹配时动态加载	按需占用
glob	文件路径匹配触发	条件性占用

描述字段优化

description字段编写规范：

• 使用用户自然表达词汇，避免规则术语
• 采用"领域名词+动作动词"组合（如"NVMe代码审查"）
• 保持简洁，过度描述会稀释匹配权重

实践案例展示

pcie p2p项目优化方案：

规则文件重构：

• AGENTS.md精简：27行→7行，节省230token前缀空间
• 内容迁移：非核心内容移至project-rules.md

触发描述优化： 旧版：pcie p2p项目级规则 新版：涉及PCIe/NVMe/RAID/P2P DMA/Linux内核代码时加载

性能优化建议

会话管理：

• 同类任务集中处理（如DAC演练保持单会话）
• 异类任务新建会话（避免历史记录膨胀）

知识库查询：

1. 优先使用kb-lookup技能定位
2. 结合grep_search精准定位
3. 按需read_file带offset参数

文件操作：

• 避免全量读取大文件
• 采用分块读取（offset+limit模式）
• 优先使用grep_search替代read_file

缓存维护准则

• 避免频繁修改rules/memories目录
• 批量更新后建议重启会话
• 保持规则文件简洁高效
• 控制单条规则覆盖范围

优化核心原则：高频轻量内容常驻内存，低频重度内容动态加载，触发描述面向最终用户场景设计。