人工智能的幻觉：当人工智能出错时

我们的人工智能镜子中的缺陷：偏见和幻觉

人工智能正在迅速改变我们的世界，有望在各个领域取得令人难以置信的进步。从自动化任务到生成创意内容，它的潜力似乎是无限的。然而，就像任何强大的工具一样，人工智能并不完美。它带有固有的偏见，有时会产生与事实不符或毫无意义的输出——这种现象被称为“人工智能幻觉”。

反映社会偏见：

人工智能模型从大量训练数据中学习。这些数据往往反映了现有的社会偏见，从而导致歧视性的结果。

• 芭比娃娃示例：

  • 拿着枪的芭比娃娃象征着对女性和暴力有害的刻板印象。
  • 穿着传统阿拉伯服装的芭比娃娃强化了文化概括，并且可能对多元文化不敏感。

• Meta 的 AI 图像生成器存在偏差：该工具很难生成“亚洲男性和白人女性”或“亚洲女性和白人丈夫”的图像，而是始终生成两个亚洲人的图像。即使将“白人”替换为“高加索人”也无法解决这个问题，这凸显了训练数据中存在持续的偏差。

• GPT-2 的性别偏见：该人工智能模型表现出强烈的倾向，将“医生”和“老师”等职业与男性联系起来，强化了有害的性别刻板印象。

这些例子说明了人工智能如何延续现有的社会偏见，反映出对更多样化和包容性的训练数据集的需求。

人工智能幻觉之谜：

当人工智能系统生成的输出看似合理但实际上不正确或与输入不一致时，就会出现人工智能幻觉。这不是故意欺骗的行为；相反，它源于人工智能模型处理信息方式的局限性。

• 输入冲突幻觉：模型无法正确解释用户输入，导致响应与给定信息相矛盾。例如，ChatGPT3.5 和 Microsoft Copilot 错误地回答了关于吃完一些橙子后还剩下多少个橙子的问题。

• 情境冲突幻觉：在长时间的对话中发生，人工智能难以保持一致的情境并跟踪相关信息。

• 事实冲突幻觉：人工智能生成与已知事实相矛盾的内容，例如建议使用胶水将披萨和奶酪粘在一起。

探索人工智能的未来：

人工智能幻觉虽然带来重大挑战，但也凸显了人工智能的创造潜力。北京大学黄铁军教授认为，“幻觉”是人工智能创造力的一种表现，突破了可能性的界限。

归根结底，人工智能的未来取决于我们减轻其偏见和解决幻觉问题的能力。这需要持续的研究、开发更强大的训练方法，以及对道德人工智能开发的承诺。通过承认这些局限性并努力寻找解决方案，我们可以充分利用人工智能的力量，同时防范其潜在的陷阱。