Browse By

首届AI安全高峰会各国签署合作宣言 但标准制定的竞合将是下一波重点

ChatGPT的问世加速了所有产业的AI应用、科技巨擘竞争愈形白热化,也让世界各国政府愈形焦虑,在个人隐私保护、假讯息、歧视等各个社会层面,应如何提早预防可能造成的伤害?欧盟议会於今年 6 月通过「人工智慧法」草案;美国拜登总统在 10 月底签署 AI 行政命令;英国也在 11 月初召开首届全球 AI 高峰会(AI Safety Summit),与会的28 个国家会前共同签署「布莱切利宣言」(Bletchley Declaration),强调AI在全球带来的风险,并呼吁国际合作以应对这些挑战。

在峰会开始前,英国政府便宣布由美国、英国、中国、印度以及欧盟等 28 个国家签署的「布莱切利宣言」,声明提到人工智慧为全球带来了机会与风险,而强大的人工智慧系统创建者有责任确保其安全,并致力於在识别和减轻风险方面进行国际合作,同意将共同研究安全问题,包括虚假资讯、网路安全和生物危害。

英国政府也宣布成立英国人工智慧安全研究所,以巩固英国作为人工智慧安全世界领导者的地位;後续该中心也将与美国人工智慧安全研究所、新加坡政府合作,进行人工智慧安全测试。

峰会中讨论的主题包括,前沿AI带来的风险及采取行动的必要性;国际间针对前沿AI安全的前瞻性合作进程;针对提高前沿AI安全,各组织应采取的适当措施;AI安全研究的潜在合作领域,如模型能力评估和制定新标准以支援治理;如何确保AI的安全发展,并对全球运用有利。

这次峰会的议程重点有两大项,分别是:识别共同关注的人工智慧安全风险,在有科学及实证理解的基础上,建立对这些风险的共同理解,并且在技术能力不断增强的情况下仍能维持,以更广泛的全球方法来了解人工智慧对社会的影响。

其次则是各国要基於这些风险的前提,制定各自的政策,以预防可能产生的安全危害,并在可能的范围内合作。这意味着每个国家的做法,会因为国情和适用的法律框架不同而异。例如要求私营部门提高透明度、发展前瞻人工智慧技术、评估指标、安全测试工具……等在内。

这次峰会的参与者、以支援和领导开放原始码的非营利组织 Mozilla 研究员拉吉( Deb Raji) 说:「全球一致认为人工智慧是值得反思和监管的东西,」但她认为,不同国家对於到底「该做」什麽的看法,存在相当大的差异。

Raji 表示,从过往参加的会议中可以听到,包括欧盟成员国间在监管人工智慧上,也有许多不同的、相互竞争的、矛盾的方式,即使是在相对充满合作意味的人工智慧领域,也存在令人震惊的多种不同观点,更别说牵涉到其他国家利益的议题。

知名机器学习模型平台 Hugging Face 研究员兼首席道德科学家玛格丽特·米切尔(Margaret Mitchell)表示,这种多样性与竞争是自然的。Hugging Face 做为一间人工智慧公司,也致力於游说一种更加深思熟虑、以人性为中心的人工智慧方法。她认为,的确各国政府寻求保护国家利益,「也有许多人,则是寻求确立自己的领导地位」。

米切尔表示,全球人工智慧规则制定的竞争,多半遵循「阿尔法策略」(alpha manoeuvres)开始发展,意即,就像飞行员需要在各种不同的飞行条件下操作飞机一样,政策制定者也需要在差异极的社会和经济条件下制定和实施政策。这些策略如何拿捏取舍,取决於全球不同国家的领导者。

然而,米切尔、拉吉和艾伦图灵研究所的伦理研究员迈克·卡特尔都强调同样的问题:相对於世界其他地方,北半球国家和经济较发达国家的声音在谈判桌上得到了更加突出的地位。

这也凸显出制定全球AI管制必须克服的挑战。美国智库一份2023年5月的报告提出,面对AI规范美国及监管,美国内部有几个重要辩论,其中包括:软性管制足够吗?是否需要有法律强制力?监管与创新技术的两难如何拿捏?全球管制框架讨论,是否该邀请中国加入对话?AI规范能够与美中科技战脱钩?

而更不可忽略的是,东西方国家对於AI管制存在着基本的分歧:东方国家几乎完全专注於建立其研发能力,而忽视技术管理的「护栏」,西方国家则几乎专注於确保这些护栏到位。预计半年後在南韩登场、一年後换法国举办的AI安全峰会要如何解决这些问题,考验的将不再只是AI技术进步的能力,而是不同政治体系与社会对於AI的接受度,以及如何求同存异的对话智慧与弹性。

Yoshua Bengio 将发布前沿人工智慧「科学状况」报告

根据峰会新闻稿,各国已同意支持2018年图灵奖得主、人工智慧学者、联合国科学顾问委员会成员 Yoshua Bengio 领导发布首份前沿人工智慧「科学状况」报告。该报告将对前沿人工智慧风险和能力的现有研究进行科学评估,并确定进一步研究的优先领域,这将有助於理解前沿人工智慧所带来的能力和风险。

该报告的调查结果将是未来人工智慧安全峰会的基础,同时也启动下次峰会的计划,韩国将在未来 6 个月内共同主办人工智慧小型虚拟高峰会;法国则於一年後主办下一次实体峰会。  

参考资料:

https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023

https://www.bbc.com/future/article/20231107-why-global-regulation-of-artificial-intelligence-is-still-a-long-way-off

https://www.gov.uk/government/news/prime-minister-launches-new-ai-safety-institute

openvpn怎么购买

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x