图片源于：https://www.gov.uk/government/news/first-international-ai-safety-report-to-inform-discussions-at-ai-action-summit
在即将到来的法国人工智能行动峰会前，今天发布的独立国际人工智能安全报告设定了先进人工智能系统及其风险的第一个全面、共享的科学理解。
该报告由图灵奖获奖者、世界上引用最多的计算机科学家Yoshua Bengio牵头，汇集了来自30个国家的100位独立国际专家的见解，包括法国、中国、美国和英国，以及联合国、欧盟和经济合作与发展组织。
该报告在2023年11月的人工智能安全峰会上正式发布，得到了包括法国、中国和美国在内的30多个国家的授权支持，此外，科学、创新和技术部提供了运营支持。
在全球政策制定者应对人工智能快速和不可预测进展的情况下，今天的报告有助于填补这一差距，提供对新兴风险的科学理解，以指导决策。
报告还强调了技术在近年来和几个月内的快速发展，提到人工智能系统越来越有能力作为AI代理——自主计划和执行复杂任务。
其发布旨在通过建立科学证据基础，支持政策制定者推进人工智能安全，同时在高级人工智能系统的全面影响仍在探索之中。
报告的主席Yoshua Bengio，蒙特利尔大学的全职教授以及Mila – 魁北克人工智能研究所的科学主任表示：
“通用人工智能的能力在近年来和几个月内迅速增加。虽然这对社会具有巨大潜力，但人工智能也带来了必须由各国政府仔细管理的重要风险。这份独立专家的报告旨在促进围绕这些风险的建设性和基于证据的讨论，并为全球决策者提供一个共同的基础，以理解通用人工智能的能力、风险及可能的缓解措施。”
报告中指出，进一步研究的关键领域包括能力将如何快速提升、通用人工智能模型内部的工作原理以及如何设计它们以可靠地行为。
尽管在缓解通用人工智能风险方面仍然面临许多挑战，但报告强调了未来研究的有希望领域，并得出结论认为可以取得进展。
该报告强调，普遍达成共识，提高我们对人工智能工作原理的理解应是当务之急，因为国际政府和人工智能公司正在为人工智能行动峰会做准备。
最终，报告强调，尽管人工智能能力可能以不同速度发展，但其发展和潜在风险并非既定事实。报告总结说，结果取决于政策制定者今天和未来所做的选择。
科学、创新和技术国务秘书Peter Kyle表示：
“人工智能的转型潜力是显而易见的，因此我们已将其置于政府变革计划的核心。它将帮助我们启动经济增长，转型公共服务，并提高全国劳动人民的生活水平，但我仍然清醒地认识到，安全必须从一开始就融入其中。
“英国已经在建立全球共识方面走在前列，推广负责任的人工智能，而这份报告将进一步支持决策者，给予他们所需的科学证据，以抓住人工智能的机遇，这是我们通过将技术应用于创造更多工作、增加人们的收入和改善公共服务而领先的责任。”
法国人工智能和数字技术部长Clara Chappaz表示：
“人工智能是我们这个时代的核心话题，其安全是建立信任和促进采用的关键基础。科学研究必须仍然是指导这些努力的基础支柱。我赞扬Yoshua Bengio及其国际团队所做的工作，这项工作必须长期延续，以服务于公众利益。这份全面的科学评估提供了必要的证据基础，使社会和政府能够负责任地塑造人工智能的未来方向。这些见解将为即将举行的巴黎人工智能行动峰会的重要讨论提供信息。”
