kvcache-fa-precision-debug

What problem does it solve?

KVCache 与 FA 精度调试技能。诊断 KVCache 写入和 Flash Attention 融合算子引入的精度问题，提供系统化的排查流程和常见问题修复方案。触发场景包括：KVCache/FA 替换后精度验证未通过、模型输出与基线存在显著偏差、Prefill 和 Decode 精度表现不一致、出现 NaN/Inf、量化模式下精度放大等。

Core Features & Use Cases

• 系统化排查流程：按症状分类、快速诊断、分模块定位、精细对比
• 模块级定位：Prefill/Decode、KVCache 写入、FA 计算与后处理的分层排查
• 产出调试报告：问题概要、根因分析、修复措施、修复验证、遗留风险

Quick Start

在目标模型上运行 KVCache-FA 精度诊断工作流，以复现并修复精度差异。