研究 · NVIDIA Research

长上下文：验证模型是否理解文档

来源说明了什么

RULER 测试长文本的信息查找、关联和汇总。研究中，即使通过简单检索测试，所测模型仍会随上下文增长而降低准确率。

这对买家意味着什么

检查实际问题的回答及对应原文。模型能接收多少文本，并不能单独说明回答是否有用。

选购系统前要验证什么

  • 同时选用短文档和长文档。
  • 检查分散在不同段落的信息。
  • 记录遗漏、错误和缺少依据的回答。

买家建议属于我们的编辑解读。原文并不证明目录中某款系统的速度或兼容性。