Gemini虚构文献被抓包，大模型幻觉引热议

近日，在开发者社区中，用户反馈谷歌的 Gemini 模型在回答学术或专业问题时，存在编造虚构文献（即“幻觉”现象）的问题。当用户指出其引用的文献根本不存在时，Gemini 甚至给出了较为轻浮的非正式回应，引发了广泛讨论。 这一现象再次暴露了大语言模型（LLM）在处理事实性、学术性检索时的硬伤。尽管 Gemini 在多模态和长文本上下文上表现优异，但在缺乏检索增强生成（RAG）或实时联网校验的情况下，仍难以避免“一本正经地胡说八道”。 对于开发者和 AI 创业者而言，这表明在构建面向医疗、法律、学术等高容错率门槛的 AI 应用时，不能单凭大模型的原生生成能力。必须设计严密的 RAG 工作流、引入可信的数据源校验机制，并对模型的输出进行事实核查（Fact-checking），以避免因模型幻觉导致应用失信。