Google DeepMind、OpenAI 和顶尖学者提议建立全球人工智能治理国际机构
人工智能能力的快速发展提出了一个重要问题：如何确保这些技术以负责任、安全的方式开发，并为所有人带来最大利益。谷歌 DeepMind 与 OpenAI 和牛津大学、蒙特利尔大学、多伦多大学、哥伦比亚大学、哈佛大学和斯坦福大学等领先的学术机构合作发表了一篇新论文，提议并探讨国际机构如何管理先进人工智能系统带来的机遇和风险。
报告指出，尽管国内监管至关重要，但共享国际标准的需求也日益增加。这主要是由于不受约束的人工智能带来的风险、人工智能被滥用的可能性以及人工智能权力带来的地缘政治影响。
从机遇方面来看，国际合作可以通过技术转让和能力建设促进人工智能的公平使用，帮助服务不足的社区从人工智能带来的繁荣收益中受益。它还可以协调不同的国家法规，以减少人工智能创新和部署中的摩擦。
然而，某些人工智能功能（如自动化学、合成媒体生成和网络安全工具）如果被恶意行为者滥用或在高风险领域不安全地部署，可能会带来全球风险。全球人工智能治理可以制定安全协议和标准，并激励各国负责任地实施这些协议和标准。
四种潜在的制度模式
DeepMind 领导的联盟提出了四种可能的机构模型来应对这些挑战，并与现有的国际组织进行了类比，以将其方法具体化。
- 成立前沿人工智能委员会，通过严格评估就人工智能的发展轨迹和相关风险达成共识。这可以为准备工作和集体行动提供参考。避免政治化和跟上人工智能的发展速度是关键障碍。
- 建立先进人工智能治理组织，制定负责任地开发和使用先进系统的国际风险标准。它可以支持国内实施和合规性监控。但随着人工智能系统的快速发展，有效确定治理范围并获得广泛参与将具有挑战性。
- 前沿人工智能合作组织旨在提高尖端人工智能的使用率，特别是为服务不足的社会。它将开发和传播有益的技术。根深蒂固的壁垒使人们不清楚这是否是最有效的发展模式。管理双重用途风险也带来了进一步的挑战。
- 人工智能安全项目旨在加速大规模人工智能安全技术研究。它将提供资源并促进专家之间的协作。然而，最佳地分配人才和从开发人员那里获得敏感模型访问权限需要仔细平衡。
挑战和悬而未决的问题
该联盟充分意识到围绕这些机构模式的可行性存在许多重要的未决问题。这些拟议的模式必须应对从资金、管辖权、代表权、合作到潜在利益冲突等一系列运营挑战。有效的机构需要平衡合法性、灵活性和广泛参与的激励措施。
资金：为这些机构确定稳定的资金来源可能很复杂。这些组织需要大量资金来吸引顶级人工智能专家并进行安全研究和政策评估。问题仍然存在：各国和企业是否愿意贡献足够的资源？
管辖权与合作：跨境治理总是面临管辖权问题。并非所有国家对人工智能的使用都有相同的看法，如果没有普遍接受，执行可能会成为一个严重的问题。这引出了一个关键问题——这些机构将如何确保具有不同议程的国家之间的合作和遵守？
代表性：确保人工智能治理的全球代表性至关重要。富裕国家和大型科技公司的不成比例的影响力可能会导致监管向他们的利益倾斜。这些机构将如何确保公平的代表性并防止少数人主导？
利益冲突：由于这些机构可能包括行业利益相关者，因此可能会出现利益冲突。这些机构是否能充分缓解行业参与者和公众利益之间的潜在偏见或利益冲突？
推动对话向前发展
本文在广泛勾勒全球人工智能治理的潜在结构以及借鉴现有机构的经验方面做出了宝贵贡献。所提出的模型为讨论该领域的国际协调提供了有益的起点。
然而，让我们承认手头任务的深度和广度。这篇论文虽然内容全面，但并非旨在涵盖这些模型的全部操作范围，也并非深入探讨人工智能的社会经济影响。它旨在推动围绕这些主题的关键对话，承认现实世界的复杂性以及人工智能带来的广泛社会经济影响。这些领域需要进一步调查和对话，超出任何一篇论文所能涵盖的范围。这强调了我们共同走向有效人工智能治理的持续性。
继续围绕全球人工智能治理展开对话需要合作、透明的对话。政府、行业利益相关者、学术界和民间社会必须参与讨论，以建立这些基础模型。
扩大研究：需要进一步研究以深入探讨每个拟议模型的具体内容。继续对拟议机构与现实世界中的类似机构进行比较分析，有助于预测潜在的障碍和成功因素。
国际对话：国家间对话对于促进合作和就人工智能标准达成共识至关重要。这可以从专门讨论人工智能治理的多边会议和论坛开始。
公众参与：人工智能不仅仅是政府和企业关注的问题。公众参与可以使讨论更加民主化，并产生更加平衡和包容的解决方案。市民大会、公共论坛和公开磋商可能是实现这一目标的有效方式。
由于先进人工智能可能对全球产生影响，这项研究为构建人工智能治理机构提供了宝贵的起点。然而，对话不能就此结束。随着人工智能发展的加速，建立全球人工智能治理的紧迫性比以往任何时候都更加紧迫。在我们前进的过程中，包容性、透明度和协作应该指导我们在充满挑战但令人兴奋的人工智能治理之旅中的步伐。实现正确的制度平衡将有助于引导人工智能走向公平和稳定的进步。
好啦，今天就到这里，如果你也想在体验ChatGPT4.0
具有GPT4对话、DALL·E3绘画、GPT4V看图助手。
可以点击下方红色链接进行使用。
