Abstract
"常识推理任务是指模型利用日常经验知识对隐含信息进行推断,从而理解和预测现实世界中的合理情境。当前研究趋势之一是通过引入外部知识库来获得额外的背景知识。然而现有的常识推理模型存在引入的外部信息不够精准和融合不充分的问题,致使其在实际应用中的表现不佳。针对上述问题,本文提出了一种基于检索增强生成的两阶段常识推理方法。该方法基于维基百科构建了包含6.28M篇文章的知识库,使用检索增强生成方法,赋予模型语义相关的上下文作为补充信息,辅助模型推理。同时,为了节省时间和资源,本文提出了一种两阶段推理策略,将简单问题交由小模型处理,将复杂问题交由大模型完成。在OpenBookQA等多个数据集上的实验结果证明,本文方法展现出优越的性能,而且适配不同的骨干网络和大模型,可做到即插即用。"
- Anthology ID:
- 2025.ccl-1.13
- Volume:
- Proceedings of the 24th China National Conference on Computational Linguistics (CCL 2025)
- Month:
- August
- Year:
- 2025
- Address:
- Jinan, China
- Editors:
- Maosong Sun, Peiyong Duan, Zhiyuan Liu, Ruifeng Xu, Weiwei Sun
- Venue:
- CCL
- SIG:
- Publisher:
- Chinese Information Processing Society of China
- Note:
- Pages:
- 156–169
- Language:
- URL:
- https://aclanthology.org/2025.ccl-1.13/
- DOI:
- Bibkey:
- Cite (ACL):
- Dongyang Li, Zhiyong Yuan, and Chao Che. 2025. 基于检索增强生成的两阶段常识推理方法. In Proceedings of the 24th China National Conference on Computational Linguistics (CCL 2025), pages 156–169, Jinan, China. Chinese Information Processing Society of China.
- Cite (Informal):
- 基于检索增强生成的两阶段常识推理方法 (Li et al., CCL 2025)
- Copy Citation:
- PDF:
- https://aclanthology.org/2025.ccl-1.13.pdf