核心发现
方法论
该研究提出了一种名为KoVRE的单向向量嵌入模型，专注于韩文视觉文档检索。通过正负样本挖掘和重新排序器知识蒸馏，该模型在708,729对韩英查询-页面对上进行训练。采用Matryoshka多负样本排序目标，分析训练数据组成、硬负样本处理和嵌入维度对模型性能的影响。
关键结果
- 结果1：在KoViDoRe基准测试中，KoVRE模型的nDCG@10得分为0.7627，相较于基础模型提升了20%以上。
- 结果2：在SDS KoPub VDR中，模型表现优于多向量基线，显示了其在不同文档领域的适应性。
- 结果3：通过消融实验，确认双语训练数据和硬负样本处理对模型性能的关键作用。
研究意义
该研究通过双语监督和精心设计的训练策略，显著提升了韩文视觉文档检索的效率，解决了现有模型过于依赖大规模骨干网络和多向量表示的问题，为多语言文档检索提供了新的思路。
技术贡献
技术上，该模型无需扩大骨干网络或采用多向量表示，通过单向向量实现高效检索。提出的训练策略包括正负样本挖掘和知识蒸馏，提供了新的工程实现可能性。
新颖性
该研究首次在韩文视觉文档检索中实现了高效的单向向量嵌入，区别于以往依赖大规模多向量表示的方法，提供了一种更为紧凑的解决方案。
局限性
- 局限1：韩文训练数据的页面多样性有限，可能影响模型对未见格式的泛化能力。
- 局限2：模型在处理复杂文档布局时可能存在性能下降。
未来方向
未来研究可扩展韩文页面图像的多样性，探索更高效的负样本挖掘策略，以及在其他语言环境中的应用。
AI 总览摘要
视觉文档检索(VDR)在直接匹配文本查询与文档图像方面具有重要意义，尤其在保留视觉和结构信息方面。然而，现有VDR模型主要集中于英语，且依赖于庞大的骨干网络或多向量表示。为解决这些问题，研究者提出了KoVRE，一种专用于韩文文档的单向向量检索模型。通过正负样本挖掘和知识蒸馏，该模型在708,729对韩英查询-页面对上进行了训练。
实验结果表明，KoVRE在多个韩文文档检索基准测试中表现优异，尤其在经济和人力资源领域显示出显著优势。其性能超过了更大规模的单向向量模型和强大的多向量基线模型，表明通过精心设计的训练策略，模型可以在不扩大骨干网络的情况下实现高效的文档检索。
尽管如此，研究也指出了模型在训练数据多样性方面的局限性，未来的研究方向包括扩展韩文页面图像的多样性，以及在其他语言环境中的应用。通过这些努力，KoVRE有望为多语言文档检索提供更广泛的支持。
深度分析
研究背景
视觉文档检索(VDR)直接匹配文本查询与文档图像，保留了视觉和结构信息。然而，现有VDR模型主要集中于英语，且依赖于庞大的骨干网络或多向量表示，导致存储和检索成本高昂。近年来，研究者开始关注多语言环境下的VDR，尤其是韩文文档的检索需求。
核心问题
现有VDR模型在韩文文档检索中的表现有限，主要由于训练数据和评估基准的英语中心化。此外，依赖大规模骨干网络和多向量表示的系统在存储和计算上成本较高，难以在实际应用中推广。
核心创新
KoVRE模型通过双语监督和正负样本挖掘实现了高效的韩文文档检索。其创新之处在于：1) 采用单向向量表示，减少存储和计算成本；2) 通过正负样本挖掘和知识蒸馏提高模型性能；3) 在不扩大骨干网络的情况下，显著提升检索效率。
方法详解
- �� 使用Qwen3-VL-Embedding-2B初始化模型。
- �� 在韩英查询-页面对上进行对比学习，采用Matryoshka多负样本排序目标。
- �� 进行知识蒸馏，使用Qwen3-VL-Reranker-8B作为教师模型。
- �� 通过正负样本挖掘和自引导过滤优化训练过程。
实验设计
实验在KoViDoRe和SDS KoPub VDR基准测试上进行，使用nDCG@10作为主要评价指标。模型在708,729对韩英查询-页面对上进行训练，采用Qwen3-VL-Embedding-8B进行负样本挖掘，并通过知识蒸馏进行模型优化。
结果分析
实验结果显示，KoVRE模型在多个基准测试中表现优异，尤其在经济和人力资源领域。其性能超过了更大规模的单向向量模型和强大的多向量基线模型，表明通过精心设计的训练策略，模型可以在不扩大骨干网络的情况下实现高效的文档检索。
应用场景
KoVRE模型可用于多语言文档检索，尤其在需要高效处理韩文文档的场景中。其紧凑的单向向量表示适合在存储和计算资源有限的环境中应用。
局限与展望
尽管KoVRE在多个基准测试中表现优异，但其训练数据的多样性有限，可能影响模型对未见格式的泛化能力。此外，模型在处理复杂文档布局时可能存在性能下降。未来研究应扩展韩文页面图像的多样性，并探索更高效的负样本挖掘策略。
通俗解读 非专业人士也能看懂
想象你在图书馆找书。以前，你需要先把书上的文字抄下来，然后用这些文字去找书。但这样做很慢，而且可能会漏掉一些重要的信息。KoVRE就像一个聪明的图书管理员，它可以直接根据你的描述找到书，不需要先抄文字。它通过学习韩文和英文的书籍描述，来提高找书的准确性。就像你在找一本关于韩国历史的书，KoVRE会根据书的封面和目录直接找到它，而不是仅仅依靠书名。
简单解释 像给14岁少年讲一样
嘿，小伙伴！想象一下你在学校图书馆找一本超酷的漫画书。以前，你得先把书名写下来，然后去找，但有时书名和书的内容不太匹配。现在，有个叫KoVRE的超级助手，它可以直接根据你说的内容找到书！就像你说“我要找一本有龙和骑士的漫画”，KoVRE会立刻找到那本书，而不是让你在一堆书名里翻来翻去。是不是很酷？这就是KoVRE的厉害之处！
术语表
Visual Document Retrieval (VDR) (视觉文档检索)
直接匹配文本查询与文档图像，保留视觉和结构信息。
在论文中用于提高韩文文档检索的效率。
Embedding Model (嵌入模型)
将文本或图像映射到一个共享的向量空间中。
用于表示文档页面和查询。
Knowledge Distillation (知识蒸馏)
将复杂模型的知识转移到较小模型中。
用于提高KoVRE模型的性能。
Hard-negative Mining (硬负样本挖掘)
从数据中选择具有挑战性的负样本以提高模型性能。
在训练过程中用于优化模型。
Matryoshka Representation Learning (MRL) (套娃表示学习)
通过多层次嵌入学习提高模型的表示能力。
用于优化KoVRE模型的嵌入表示。
开放问题 这项研究留下的未解疑问
- 1 如何提高模型对未见格式的泛化能力？现有训练数据的多样性不足以覆盖所有可能的文档格式。
- 2 在其他语言环境中应用KoVRE需要哪些调整？目前的训练策略主要针对韩文。
应用场景
近期应用
韩文文档检索
在需要高效处理韩文文档的场景中应用KoVRE，提升检索效率。
多语言文档检索
利用KoVRE的双语能力，在多语言环境中实现高效文档检索。
远期愿景
全球文档检索平台
通过扩展KoVRE的语言能力，构建一个支持多种语言的全球文档检索平台。
原文摘要
Visual Document Retrieval (VDR) directly matches text queries against document images, preserving visual and structural information that may be lost during text extraction. However, existing VDR models and training resources remain predominantly English-centric, while many high-performing systems rely on massive backbones or storage-intensive multi-vector representations. To address these limitations, we introduce KoVRE: Korean Visual Document Retrieval Embedding, a single-vector retriever for Korean visual documents, alongside a comprehensive training recipe. We train the model on 708,729 Korean and English query-page pairs using positive-aware hard-negative mining and conduct controlled analyses of training-data composition, hard-negative treatment, and reranker-based knowledge distillation. Across Korean visual document retrieval benchmarks, our 2B model substantially improves over the base backbone model, outperforming both its 8B single-vector counterpart and a strong multi-vector baseline. These results demonstrate that targeted bilingual supervision and our carefully designed training strategies can produce a highly effective Korean VDR model across diverse document domains, without requiring a scaled-up backbone or multi-vector representations.