返回首页

幻觉

AI 一本正经地编假话。编不存在的函数名、编假论文、编假法条,还讲得头头是道。

做什么会用到

  • 01让 AI 写代码:它可能编出不存在的库或函数 —— 跑一下立刻穿帮
  • 02让 AI 写论文/报告:引用的文献经常是假的 —— 必须核对
  • 03做客服 AI:不做 RAG 会乱编公司政策 —— 必须限定只基于文档回答
  • 04降幻觉三招:RAG(给资料)、prompt 加“不确定就说不知道”、后置事实核查

想用它怎么问 AI

这是 AI 给我的回答【贴回答】。请帮我逐条标出哪些是确凿事实、哪些可能是幻觉,告诉我如何验证可疑的部分。

相关词

RAG事实核查Prompt