
transcript
show notes
Unlimited OCR 的创新端到端文档解析模型,旨在解决传统大语言模型在长文本生成时遇到的内存消耗过大和运行速度变慢的难题。通过引入全新的 Reference Sliding Window Attention (R-SWA) 机制,该模型模仿人类阅读时的记忆工作方式,让每个生成的标记只关注所有视觉参考标记以及固定大小的近期输出窗口。这种设计成功将键值缓存(KV cache)的规模从线性增长转变为恒定的固定上限,从而大幅降低了计算成本。结合高效的 DeepEncoder 图像压缩编码器,该系统能够在单次前向传递中顺畅处理包含数十页的复杂文档。实验结果表明,该方法不仅极大地提升了多页长文本光学字符识别的执行效率,还在 OmniDocBench 等多个权威基准测试中达到了最先进的性能水平。