英国近日正式提出人工智能安全峰会目标 20230904

英国首相："人工智能肯定是我们面前最大的机会之一。通过将人工智能模型与量子的力量相结合，"可能性是非凡的。"
欢迎大家点击在看，转发到朋友圈~~ 这样兔儿就更有动力写出更多好内容了~

* 转载请附上本文的所有参考文献链接

AI Safety Summit

* 本文 2000 字左右

本届人工智能安全峰会将汇聚主要国家、技术组织、学术界和民间社会。

2023 年 9 月 4 日，英国在政府官网发布了对今年 11 月初举办的人工智能安全峰会的五项主要目标。

（Department for Science, Innovation and Technology）

英国将与全球合作伙伴密切合作，确保前沿人工智能的安全，确保全球各国和公民都能实现其益处，本届人工智能安全峰会将把主要国家 ( Key countries)、领先的技术组织 (Leading technology organisations)、学术界和民间团体 (Civil society together) 聚集在一起。并且，英国在 9 月 4 日开会，为将与今年 11 月 1 日和 2 日，在布 Bletchley Park.举行的人工智能安全峰会设定了系列目标。 本届人工智能安全峰会代表乔 Jonathan Black 和 Matt Clifford，已经开始与各国的前沿人工智能组织进行讨论，英国新任科学技术大臣 Michelle Donelan 将于本周启动峰会前的系列准备，官方上周还与民间社会团体举行了圆桌会议。 人工智能安全峰会 (The AI Safety Summit ) 将汇聚主要国家以及领先的技术组织、学术界和民间团体，为在人工智能（AI）发展前沿迅速落地的国家和相关国际行动，披露信息。 本届峰会，重点将会关注强人工智能系统会加剧的风险，特别是与这类人工智能系统潜在危险能力相关的风险。 例如：

• ( 防止 ) 破坏生物安全的潜在信息获取与扩散。
• 如何将安全的人工智能用于公益事业,改善人们的生活（挽救生命的医疗技术到更安全的交通）

本届安全峰会将采纳借鉴会前和会中的观点。英国政府在这些问题上，与全球合作伙伴密切合作，以确保前沿人工智能的安全，并确保全球各国和公民现在和将来都能朝着有意义的方向应用。 9 月 4 日，英国正式分享将要推进的五个目标，这些目标建立在与利益相关方的初步磋商和信息调研、收集的基础上，从而进一步构成本届峰会讨论的框架： 1.共同理解前沿人工智能带来的风险，以及共同行动的必要性 a shared understanding of the risks posed by frontier AI and the need for action 2.加强前沿人工智能安全国际合作的前瞻推进流程，包括如何以最好的方式地支持本国和国际框架的落地， a forward process for international collaboration on frontier AI safety, including how best to support national and international frameworks 3.如何让个体组织应采取的适当措施，从而提升前沿人工智能技术的功能安全 appropriate measures which individual organisations should take to increase frontier AI safety 4.确定在 AI 安全研究方面潜在合作的领域，包括评估模型能力和制定支持治理的新标准等 areas for potential collaboration on AI safety research, including evaluating model capabilities and the development of new standards to support governance 5.确保 AI 的安全开发，以及如何在全球范围实现人工智能向善 showcase how ensuring the safe development of AI will enable AI to be used for good globally 英国政府官网表示：加速人工智能领域的投资、部署和能力发展，代表着巨大的生产力的机会，也代表着巨大的公共利益所在。在未来，会有具有越来越普遍能力的模型的出现，从而在实现可访问性和应用落地这块，会发生重大变化，这个市场，创造了未来 10 年内多达 7 万亿美元增长的可能性，包括更高效的药物发现。 然而，如果没有适当的防护措施，人工智能技术就会以不限制国界的方式带来重大风险。解决这些风险，包括在国际层面解决这些风险，是个紧迫问题。 各个国家、国际组织、企业、学术界和民间社会已经在 AI 方面开展了关键工作，在联合国 (UN)、经济合作与发展组织（OECD）、全球人工智能合作伙伴关系（GPAI）、欧洲理事会、G7、G20 和标准制定组织等，都加强了人工智能领域的国际合作。本届峰会，将在之前重要举措的基础上，就如何实际应用、操作前沿 AI 组织的风险缓解措施、评估支持安全前沿 AI 的最为重要的领域，以及长期行动路线图制定等问题达成一致意见。 前情提要 英国首相 Rishi Sunak6 月伦敦科技周上宣布，谷歌的 DeepMind、OpenAI 和 Anthropic 已经同意向英国政府开放其人工智能模型，用于研究和安全目的。
英国首相苏纳克说，这样可以便于英国政府 "帮助建立更好的评估，从而更好地了解这些系统的机会和风险"。苏纳克本次的演讲，主要是倡导人工智能有望重塑教育和医疗等领域，预示着英国可以作为 "创新之岛 "的潜力。
"苏纳克说："人工智能肯定是我们面前最大的机会之一。通过将人工智能模型与量子的力量相结合，"可能性是非凡的。" 2023 年 3 月，英国政府发布了一份人工智能白皮书，提出了 "Pro-innovation "的方法，6 月又苏纳克强调了 "Guardrails "的必要性。
苏纳克今年 6 月还表示，英国不但想要成为科学知识的核心地区，而且要成为全球人工智能安全监管的地理家园"，但英国目前还没有列出具体的监管建议和条例。
这些条例和计划的关键在于今年秋季在英国举行的全球人工智能安全峰会，苏纳克将这次峰会比喻为"联合国缔约方大会气候变化会议的人工智能版本”。
除此之外，还成立了一个基金会模式的工作组，目前投入有 1 亿英镑左右的资金支持，进行人工智能安全领域技术的研究，英国首先表示，英国灵活平衡的监管方式将继续使其成为有吸引力的投资地。 Anthropic 和 OpenAI 几个月前在英国设立了欧洲总部，Palantir 夏天宣布在英国设立一个人工智能研究中心。
值得注意的是，OpenAI CEO 山姆·奥特曼在 2023 年 5 月一直欧洲各国访问，与各国监管机构会面，见了包括西班牙、波兰、法国和英国的政府首脑。 OpenAI 的 CEO Sam 在5 月的欧洲之旅中，专门抽时间与英国首相苏纳克会面，并且与友商 DeepMind 的 Demis Hassabis、Anthropic 的 Dario Amodei 一起和苏纳克开了个会。 另外，OpenAI 一直在英国有招聘动作， 而 Anthropic 夏天也宣布了自己的伦敦办事处。 对于 OpenAI 来说，至少在监管方面，英国不再是欧盟的成员，这意味着不能参与欧盟人工智能法案的立法。
除此之外，苏纳克政府的态度是，不打算制定任何新的国内立法来监管人工智能。其中近期英国政府的一份白皮书提出，仅仅依靠现有的监管机构，如竞争管理机构和隐私监督机构，为人工智能的安全发展提供指导，而不是立法规范技术的使用。
参考文献： 1.UK government sets out AI Safety Summit ambitions - GOV.UK (www.gov.uk) Sam Altman’s big European tour

2.https://techcrunch.com/2023/05/25/sam-altman-european-tour/

OpenAI, DeepMind and Anthropic to give UK early access to foundational models for AI safety research 

【阅读更多】

• Anthropic 联合创始人：给英国基础模型特别工作组的政策建议
  

• 欧盟委员会对 ChatGPT 的最新监管方向 202302
• 关于 OpenAI、DeepMind 等向英国政府开放模型的几点看法
  
• 假如 ChatGPT 变得邪恶
• RSA2023: 生成式 AI 与网络安全动向