AI百科6分钟
什么是AI幻觉？企业应用如何规避
AI一本正经胡说八道的原因与工程化解法。
幻觉从哪里来
大模型的本质是"生成最合理的文本"而非"陈述事实"。当它不知道答案时，会编造一个听起来合理的——这就是幻觉。这是生成式AI的固有特性，无法根除只能管理。
工程化规避手段
四道防线：RAG强制基于企业资料作答并标注出处；提示词明确"不知道就说不知道"；关键字段程序化校验；高风险场景人工复核后再执行。
分级管理思维
按风险分级：闲聊答疑可以容忍偶发错误；报价、合同、医疗建议必须有人工兜底。先定风险等级，再定技术方案。