你好，我是 Mana。
今天我想跟大家聊聊两个理解生成式 AI 的关键概念：概率模型 和 幻觉（hallucination）。
生成式 AI 可以写出自然的语言、生成图像、甚至合成语音。但其实，它背后是一个非常简单的机制 —— 预测“最可能出现的下一个词”。
🎲 生成式 AI 是建立在概率模型之上的
特别是大语言模型（LLM），它们是通过概率预测不断决定下一个输出内容。
例如，我们有一个句子：
“今天我去咖啡馆点了一杯 ___。”
AI 可能会这样预测下一个词：
- “咖啡” – 70%
- “拿铁” – 20%
- “热巧克力” – 10%
然后从中选择一个结果，继续预测下一个词……如此循环生成整句话。
也就是说，AI 并不“理解”内容，它只是用统计的方法选择看起来合理的词语。
🤔 为什么 AI 会“胡说八道”？这就是幻觉（hallucination）
由于 AI 不是在查阅真实资料，而是在生成可能的句子，它有时会输出并不真实的信息，这就是所谓的幻觉。
幻觉的常见例子：
- 引用并不存在的书籍或论文
- 捏造虚假的统计数据或法律内容
- 创造不存在的公司名、地名或人物
这些内容常常看起来非常真实，因此更容易让人误信。
📌 幻觉产生的原因有哪些？
- 基于概率预测
AI 并不判断真假，只是预测最有可能出现的词语组合。 - 训练数据包含错误信息
网络上的数据有真有假，AI 也可能学习到错误内容。 - 提问模糊或无标准答案
如果问题太宽泛，AI 可能“自作主张”生成答案。
🛡️ 如何避免被幻觉误导？
生成式 AI 很强大，但我们不能盲目信任它的回答。以下是一些实用的建议：
- ✅ 人工审核内容
特别是在商业、教育、医疗等领域，必须由人进行验证。 - ✅ 在提问时要求引用来源
比如：“请提供信息来源”或“这句话的依据是什么？” - ✅ 使用可连接外部数据的工具
例如：RAG（检索增强生成），结合实时搜索以提供更准确的答案。
📘 小结
- 生成式 AI 不是在“理解”，而是在用概率“预测”。
- 幻觉是不可避免的现象，需要人来监管。
- 正确使用 AI 的前提是了解它的机制与限制。
继续一起学习、探索 AI 的智慧用法吧！📘
コメント