白宫周五宣布,美国七家领先的人工智能公司已同意对该技术的开发自愿采取保障措施,并承诺在争夺人工智能潜力的同时管理新工具的风险。
周五下午,亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 等七家公司在白宫与拜登总统会面时,正式承诺制定新的安全、保障和信任标准。
“我们必须对新兴技术所带来的威胁保持清醒和警惕,这些威胁可能——不一定但可能——对我们的民主和价值观构成,”拜登在白宫罗斯福室发表简短讲话时表示。
“这是一项严肃的责任; 我们必须把事情做好,”他在公司高管的陪同下说道。 “而且还有巨大的潜力。”
这一消息发布之际,各公司正在竞相推出人工智能版本,以提供强大的新方法来创建文本、照片、音乐和视频,而无需人工输入。 但技术的飞跃引发了人们对虚假信息传播的担忧,以及随着自我意识计算机的发展而出现的“灭绝风险”的可怕警告。
随着华盛顿和世界各国政府寻求为人工智能的发展建立法律和监管框架,自愿保障措施只是早期的试探性步骤。 这些协议包括测试产品的安全风险,并使用水印确保消费者能够发现人工智能生成的材料。
但立法者一直在努力以跟上快速发展的技术的方式监管社交媒体和其他技术。
白宫没有提供即将发布的总统行政命令的细节,该命令旨在解决另一个问题:如何控制中国和其他竞争对手获取新人工智能项目或用于开发这些项目的组件的能力。
预计该命令将涉及对先进半导体的新限制以及对大型语言模型出口的限制。 这些软件很难保证安全——大部分软件都可以压缩并安装在拇指驱动器上。
与周五的自愿承诺相比,一项行政命令可能会引起业界更多的反对,专家表示,这些自愿承诺已经反映在相关公司的实践中。 这些承诺不会限制人工智能公司的计划,也不会阻碍其技术的发展。 作为自愿承诺,它们不会由政府监管机构强制执行。
Facebook 母公司 Meta 的全球事务总裁尼克·克莱格 (Nick Clegg) 在一份声明中表示:“我们很高兴与该行业的其他公司一起做出这些自愿承诺。” “它们是确保为人工智能建立负责任的护栏的重要第一步,并为其他政府树立了榜样。”
作为保障措施的一部分,这些公司同意进行安全测试,部分由独立专家进行; 关于偏见和隐私问题的研究; 与政府和其他组织共享有关风险的信息; 开发应对气候变化等社会挑战的工具; 以及识别人工智能生成材料的透明度措施。
拜登政府在宣布这些协议的声明中表示,这些公司必须确保“创新不会以牺牲美国人的权利和安全为代价”。
美国政府在一份声明中表示:“正在开发这些新兴技术的公司有责任确保其产品的安全。”
出席白宫会议的高管之一、微软总裁布拉德·史密斯表示,他的公司支持自愿保障措施。
“通过迅速行动,白宫的承诺奠定了基础,有助于确保人工智能的承诺领先于其风险,”史密斯先生说。
OpenAI 全球事务副总裁 Anna Makanju 将这一公告描述为“我们与世界各地政府、民间社会组织和其他机构持续合作以推进人工智能治理的一部分”。
对于这些公司来说,周五描述的标准有两个目的:通过自我监管来预防或塑造立法和监管举措,以及表明他们正在深思熟虑和积极主动地处理新技术。
但他们同意的规则很大程度上是最低的共同点,每个公司都有不同的解释。 例如,这些公司承诺对用于创建生成人工智能程序的语言模型的数据采取严格的网络安全措施。 但这意味着什么并没有具体说明,无论如何,这些公司都会有兴趣保护自己的知识产权。
即使是最谨慎的公司也很容易受到攻击。 微软是与拜登一起参加白宫活动的公司之一,上周争先恐后地应对了 中国政府组织的黑客攻击 与中国打交道的美国官员的私人电子邮件。 现在看来,中国窃取或以某种方式获得了微软持有的“私钥”,这是验证电子邮件的关键——这是该公司保护最严密的代码之一。
考虑到这些风险,该协议不太可能减缓通过立法和对新兴技术实施监管的努力。
纽约大学斯特恩商业与人权中心副主任保罗·巴雷特表示,需要采取更多措施来防范人工智能对社会构成的危险。
巴雷特在一份声明中表示:“今天宣布的自愿承诺不可强制执行,这就是为什么国会与白宫必须立即制定要求透明度、隐私保护的立法,并加强对生成人工智能带来的广泛风险的研究。”
欧洲监管机构准备在今年晚些时候通过人工智能法律,这促使许多公司鼓励美国监管。 几位立法者提出了法案,其中包括人工智能公司发布其技术的许可、建立联邦机构来监督该行业以及数据隐私要求。 但国会议员远未就规则达成一致。
立法者一直在努力解决如何应对人工智能技术的崛起,其中一些人关注消费者面临的风险,另一些人则非常担心在争夺该领域主导地位的竞争中落后于对手,特别是中国。
本周,众议院对华竞争委员会向美国风险投资公司发出两党信函,要求对它们对中国人工智能和半导体公司的投资进行清算。 几个月来,众议院和参议院的多个小组一直在询问人工智能行业最有影响力的企业家和批评家,以确定国会应该探索什么样的立法护栏和激励措施。
其中许多证人,包括 OpenAI 的萨姆·奥尔特曼恳求立法者对人工智能行业进行监管,并指出新技术可能造成不当伤害。 但这项监管在国会进展缓慢,许多立法者仍然难以掌握人工智能技术到底是什么。
为了提高立法者的理解,纽约州民主党参议员、多数党领袖查克·舒默(Chuck Schumer)今年夏天开始举行一系列会议,听取政府官员和专家关于人工智能在多个领域的优点和危险的意见。
卡伦·德米尔吉安 华盛顿的报道也有贡献。