[两会你我他]答网友问·全国政协委员 寇纲 什么是AI幻觉？

sowang

视频简介

答网友问·全国政协委员寇纲：什么是AI幻觉？



[两会你我他]答网友问·全国政协委员 寇纲 什么是AI幻觉？
https://tv.cctv.com/2025/03/09/V ... ivD.E2X8dW9ZE0lj.18


AI幻觉，是指大语言模型编造它认为是真实存在的甚至看起来合理或可信的信息。

大模型出现幻觉，简而言之就是“胡说八道”，准确而言，是指模型生成的内容与现实世界事实或用户输入不一致的现象。研究人员将大模型的幻觉分为事实性幻觉(Factuality Hallucination)和忠实性幻觉(Faithfulness Hallucination)。致使大模型产生幻觉的原因主要有数据缺陷、数据中捕获的事实知识的利用率较低，长尾知识回忆不足、难以应对复杂推理的情况等。