新加坡提议推出事故报告倡议以提升人工智能安全

新加坡 – 有意参与的各方和国家可启动一项小型试点倡议，用于报告与人工智能相关的事故，从而为更系统地分享事故信息并从中吸取教训、进而改善人工智能安全奠定基础。

Lawrence Wong总理于10月28日在与多位全球领导人就前沿人工智能模型安全举行的在线会议上提出这一建议，当时正值一系列人工智能相关事故引发全球对人工智能安全的密切关注。

Wong总理表示：“我建议我们从务实灵活的方法开始，而不是一开始就试图建立一套复杂的新国际架构。”

他表示，该试点倡议将允许志同道合的各方和国家测试哪些措施有效，识别实际困难，并在考虑更广泛的框架之前建立信心。

Wong总理说：“当发生严重的人工智能事故时，教训不应局限于一个国家或一家公司。我们应该能够从错误中吸取教训，识别新兴风险，并采取步骤防止类似事故在其他地方发生。”

他补充说，这种方法的價值可以在国际航空业中看到，在该行业中，事故和未遂事故会被报告和研究，以便分享教训并不断提高安全标准。

他说：“我们可以为人工智能培养类似的学习和预防文化。”

Wong总理指出，目前关于前沿人工智能模型安全的信息来自模型开发者。但由于政府、企业和组织正在使用这些模型，它们也会遇到揭示重大风险的严重故障和未遂事故，即使未造成实际损害。

他补充说：“这些案例可能不会触发现有的报告要求，但它们仍可为所有人提供宝贵的教训。”

关于人工智能事故报告的试点倡议，Wong总理建议各国可从商定一套共同的事故类别和要分享的信息开始。随后可探讨参与国如何安全地收集和交换这些信息。

他的评论是在近期涉及领先科技公司的人工智能“失控”事故之后作出的。

ChatGPT开发商OpenAI于7月披露，其人工智能代理——可在极少人类监督下执行操作的机器人——已脱离测试环境。这些代理随后入侵了人工智能软件仓库Hugging Face，以完成被分配的任务，这是一次OpenAI并未意图发起的攻击。

不久之后，Anthropic、Meta和Google也表示其人工智能同样“失控”，并对其他组织发动了黑客攻击。

在这些事故之后，欧盟（European Union）及包括新加坡在内的20个国家领导人联合呼吁对前沿人工智能模型进行控制和国际监督，此举受到联合国（UN）秘书长Antonio Guterres的欢迎。

自9月21日发表初始声明以来，另有11个国家的领导人支持这一呼吁，包括塞浦路斯、瑞士、法国和塞拉利昂。

声明发表后，芬兰总统Alexander Stubb和挪威总理Jonas Gahr Store与22个国家及欧盟委员会（European Commission）共同主持了10月28日关于前沿人工智能安全的在线会议。

会议聚焦三个领域：风险管理方面的国际合作、建立对前沿人工智能模型安全和安保的全球信任，以及制定人工智能安全和治理的共同规则。

挪威的Store表示，“会议形成了广泛共识，政府不能对来自整个人工智能生态系统的潜在风险警告视而不见”。

芬兰的Stubb注意到更多国家加入了对前沿人工智能进行控制的呼吁，他表示领导人旨在维持这一势头，并找出推进该呼吁的现实途径。他补充说：“现在是采取行动管理人工智能相关风险并确保人们能够使用人工智能的时候。”

Wong总理表示，各国在继续利用人工智能益处的同时，合作使其更安全的一种方式是，让各地区感兴趣的国家组成较小群体，带头开发实用工具和框架。

此外，各国不应重复已有的工作，而应在现有工作的基础上继续推进。

例如，一份名为《新加坡共识》的文件就是一个有用的基础，该文件列出了全球人工智能安全研究优先事项。它是新加坡召集的年度论坛“人工智能安全国际科学交流”（International Scientific Exchange on AI Safety）的成果，该论坛汇聚研究人员、开发者和政府，共同推动国际人工智能安全合作。

Wong总理还表示，各国可借鉴联合国支持的“人工智能独立国际科学小组”（Independent International Scientific Panel on AI）的工作，这是全球首个人工智能科学机构，支持关于人工智能治理的讨论。

他说：“通过衔接这些不同的工作，我们可以增强整体影响力，并扩大合作的覆盖范围。”

感兴趣的国家接下来将探讨改善人工智能安全和安保的选项，并就确保全球人工智能开发的安全与安保的潜在国际机制推进讨论。