ChatGPT 5天用户破百万，却突遭Stack Overflow封禁

 

如果有一天我们获取的“知识”真假难辨，那将是极其可怕的。

要问最近 AI 圈中哪个模型最火爆，OpenAI 推出的 ChatGPT 无疑是当仁不让的首选。自发布以来，这个对话模型吸引了大量关注，许多人甚至探索出了一百种新玩法：让它编写代码、修复 bug、开发小游戏、解答物理问题、参与考试…… 仿佛没有它无法完成的任务。

“仅上线短短几天，ChatGPT 的用户就已经突破了 100 万！”OpenAI 的 CEO Sam Altman 如是表示。

连马斯克都忍不住好奇，询问：“你们每次聊天的平均成本是多少？”

Sam Altman 回答说：“每次聊天的平均费用可能仅为个位数，我们正在寻找更准确的统计方法，并尝试优化成本。”

由于 ChatGPT 在解决各种问题上的卓越表现，很多用户表示它可以取代 Google 等搜索引擎，以及 Stack Overflow 等编程问答社区。

然而，虽然许多人对 ChatGPT 的功能印象深刻，但也有用户注意到它经常生成似是而非的错误答案。例如，当要求 ChatGPT 写一个公众人物的传记时，它可能会自信地插入不正确的传记数据；同样，要求它解释如何编写特定功能的软件程序时，它也可能生成可信但最终错误的代码。


ChatGPT 随时都有可能出错的特性促使 Stack Overflow 做出了一些反应。前几天，有人信心满满地宣称 ChatGPT 可以取代 Stack Overflow，但没想到的是，这一天 Stack Overflow 反手封禁了 ChatGPT。

这究竟是怎么回事？原来在试用一段时间后，人们迅速发现，尽管 ChatGPT 以接近人类的方式回答问题，但其给出的答案经常存在缺陷。OpenAI 也指出，ChatGPT 有时会提供看似合理但实际上错误的答案。

对于这个问题，Sam Altman 表示：“我们正在努力防止 ChatGPT 随机编造答案，现阶段在技术上保持平衡是相当棘手的。随着时间的推移，我们会根据用户反馈来改进它，相信 ChatGPT 会逐渐变得更好。”

关于 Stack Overflow 为何禁用 ChatGPT，官方指出：“主要问题在于，虽然 ChatGPT 生成的答案错误率很高，但我们很难判断它错误的具体来源。”这可能导致答案混乱不清。

接下来，Stack Overflow 将制定有关使用 ChatGPT 及其他类似工具的具体要求。该平台的声明表示，ChatGPT 生成的答案正确率过低，发布这些答案对网站及查询正确答案的用户来说是非常有害的。

尽管 ChatGPT 生成的答案错误率较高，但这些答案通常看起来相当不错，并且生成过程简单易行，因此许多人愿意使用 ChatGPT 来生成答案，然而他们往往缺乏必要的专业知识，也不愿意在发布前验证答案的准确性。

由于 ChatGPT 生成答案的速度和便捷性，最近 Stack Overflow 上涌现了大量由该模型生成的内容。许多答案只有在具备一定专业知识的情况下才能被确认其错误性，这使得 Stack Overflow 的质量管理受到冲击。

网友们对此反应不一。有些人支持这一决定，认为AI在短时间内根本不可能生成完全正确的答案；而另一些人则认为，问题出在 Stack Overflow 用户没有在发布答案前认真检查和测试 ChatGPT 生成的代码，他们只是用 ChatGPT 快速生成答案而没有进行验证，导致了严重错误，甚至语言出现了混乱。

有趣的是，在 Stack Overflow 宣布禁用 ChatGPT 之后，有网友向它询问：“为什么 Stack Overflow 禁止使用 AI 生成答案？”

ChatGPT 给予了非常坦诚的回答：“因为 AI 生成的答案并不总是准确或相关的，可能会导致 Stack Overflow 上错误答案的混淆，误导寻求帮助的用户。”而且它表示：“Stack Overflow 禁止用 AI 生成答案是合理的。”

当该网友继续询问：“为什么 Stack Overflow 允许用 AI 生成答案？”时，ChatGPT 仍然对答如流：

在 Stack Overflow 上允许 AI 生成答案有一些潜在的好处。首先，人工智能可以为用户提供更准确和详细的回答，尤其是在人类专家可能难以解决的复杂技术问题中。此外，AI 生成的答案还有助于减少人类专家的工作量，使他们能够专注于更重要的任务。

然而，使用 AI 生成答案也存在一些潜在缺陷需要考虑。例如，AI 生成的答案可能并不总是准确和有帮助，且人们可能担心用于生成答案的算法存在偏见。用户或许更愿意信赖来自人类专家的回答，而非 AI 生成的内容。

总的来说，是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决策，需要社区仔细权衡。

综合上述回应，我们发现 ChatGPT 对于 Stack Overflow 禁用 AI 生成答案的问题表达得理有据。这表明，从语言模型的角度来看，ChatGPT 已经相当成熟，但生成准确的知识性内容仍然是一项艰巨的挑战。

类似地，上个月 Meta 的模型 Galactica 在上线仅两天后就被迅速下架，原因是该模型生成的知识型内容存在严重错误。而现在 ChatGPT 被 Stack Overflow 禁用，再次证明了构建“知识型模型”确实是一个巨大的挑战。

虽然 ChatGPT 的研究团队之前表示将根据用户反馈不断改进模型，但生成错误答案的现状表明，让语言模型产生可靠的知识性内容仍需长时间的努力。

### 结语

未来，如何提升 AI 模型生成内容的准确性，将是 AI 发展中不可忽视的重要课题。面对知识的真假难辨，开发者和用户都需要提高警惕，确保可靠的信息源。