OpenAI 发起准备挑战赛，以加速对前沿 AI 风险的了解
OpenAI 宣布启动“风险防范挑战赛”，旨在识别与高度先进的“前沿”人工智能系统相关的潜在风险。该挑战赛是 OpenAI 更广泛的灾难风险防范计划的一部分，旨在确保变革性人工智能技术的安全。
准备挑战赛邀请参赛者思考 OpenAI 最先进的自然语言、语音和图像生成模型可能如何被恶意行为者滥用。参赛者需要概述涉及 OpenAI 的 Whisper、Voice、GPT-4V 和 DALL·E 3 模型的独特灾难性滥用场景，涉及网络安全漏洞、生物武器或说服技术等威胁类别。
OpenAI 将向最多 10 个顶级提交者提供 25,000 美元的 API 积分，这些提交者详细描述了富有想象力但可能存在的滥用案例。该人工智能研究实验室表示，它将发布值得关注的参赛作品，并为其新成立的准备团队招募顶尖人才，该团队的任务是监测和评估前沿人工智能风险。
OpenAI 在公告中表示：“随着人工智能模型的不断改进，我们需要确保我们拥有高性能人工智能系统安全所需的理解和基础设施。我们相信前沿人工智能模型有可能造福人类，但也会带来越来越严重的风险。”
此次挑战赛反映出 OpenAI 对通用人工智能和其他变革性人工智能能力可能带来的危险的担忧。虽然通用人工智能可能带来巨大的好处，但不受控制地滥用通用人工智能可能会带来生存威胁，因此需要做好严格的准备。
OpenAI 强调：“管理前沿人工智能带来的灾难性风险需要回答一些难题，即这些系统在被滥用时会对现实世界产生怎样的影响。”该公司认为，像“准备挑战”这样的演习将加强对前沿人工智能风险的“监测、评估、预测和防护”能力。
此次挑战赛以 OpenAI 持续的风险缓解工作以及今年早些时候与其他主要 AI 实验室共同做出的促进 AI 安全性、保障性和信任度的自愿承诺为基础。随着比 GPT-4 更先进的模型的出现，OpenAI 似乎致力于探索潜在的弊端并让社区参与开发解决方案。
好啦，今天就到这里，如果你也想在体验ChatGPT4.0
具有GPT4对话、DALL·E3绘画、GPT4V看图助手。
可以点击下方红色链接进行使用。
