2024-11-01 16:29来源:本站
OpenAI首席执行官山姆?奥特曼(Sam Altman)的下台和迅速回归,就像肥皂剧一样,在网上制造了大量讽刺的笑料,但也暴露了一些严重的断层。我喜欢的其中一种批评是:“如果让几个董事会成员团结起来是一个无法克服的挑战,我们该如何解决人工智能的协调问题?”
作为ChatGPT背后的公司,OpenAI可能是最知名的公司之一,但人工智能不仅仅是一家公司。这是一项影响巨大的技术,但它几乎完全不受监管。欧盟有机会有意义地应对这一挑战——但如果它向大型科技公司的持续冲击屈膝,就不会。到目前为止,鼓舞人心的欧洲议会议员们在难以置信的压力下一直立场坚定,努力挽救这项具有里程碑意义的立法。上周末,欧盟专员蒂埃里·布雷顿(Thierry Breton)公开反对他所说的法国Mistral AI和其他人工智能公司的自私自利的游说努力,这些游说不符合公众利益。在这个关键时刻,这些议员需要也应该得到我们的支持。
在这个意识到需要对人工智能进行监管的世界,欧洲将处于领先地位。从美国的行政命令到最近由英国在布莱切利公园主办的人工智能安全峰会,世界各地的国家都意识到,如果我们要分享这项令人难以置信的技术的好处,我们必须降低其风险。《欧盟人工智能法案》(european AI Act)将是第一个旨在实现这一目标的全面法律框架,但少数科技公司正在挟持这一政治进程,威胁要让这艘船沉没,除非它们的系统不受监管。投降将损害欧洲的创新,将利润置于公共安全之上,并代表着对民主的侮辱。我们的立法者绝不能屈膝。
11月10日,在法国和德国反对拟议的“基础模型”监管后,谈判破裂。随后,他们与意大利一起发布了一份非文件,明确表达了这些要求,要求建立基础模型的公司只接受自愿承诺。基础模型是通用的机器学习系统,例如Open AI的GPT-4(它是ChatGPT的基础),可以随后应用于大范围的下游应用和功能。监管这些基础模型将迫使人工智能公司在部署前确保它们是安全的,而不是等到危险系统发布后才采取行动,因为危险系统明显有危害公众的危险。鉴于人们越来越担心这些先进系统带来的潜在风险,包括大规模错误信息、生物恐怖主义、对关键基础设施的黑客攻击、大规模网络攻击等等,这是一个明智的规定。
我们已经亲眼目睹了编纂法律保护的必要性,而不是依赖于企业的自我监管。例如,社交媒体对年轻女性和女孩造成的心理伤害越来越明显。经营平台和频道的公司多年来一直意识到这种损害,但却没有采取行动。自愿承诺既不充分也不可靠。如果我们想让人们不再受伤,我们需要的是预防,而不是治疗。从一开始,我们就需要为强大的人工智能制定可执行的安全标准和风险缓解措施。
那么为什么要反对呢?反对者声称,这将阻碍那些想要适应和使用人工智能的企业的创新,但事实并非如此。规范基础模型对于创新至关重要,因为它将保护下游较小的欧洲用户免受合规要求的影响,并在出现问题时免于承担责任。只有少数资源充足的公司正在开发最具影响力的基础模型,但在欧盟有成千上万的小公司已经将它们用于具体的商业应用,还有更多的公司计划这样做。我们需要平衡整个价值链的义务,让最宽的肩膀承担最大的负担。
这反映在对立双方的构成上。由4.5万名企业成员组成的欧洲数字中小企业联盟(European DIGITAL SME Alliance)希望规范基金会模式。两家欧洲人工智能公司(法国的Mistral AI和德国的Aleph Alpha),以及少数几家美国大公司都没有。他们的观点也没有得到现实世界经验的证实。我的祖国爱沙尼亚和德国一样,受到欧盟规则和条例的约束,但却拥有一个充满活力和蓬勃发展的创业生态系统。如果那些像Mistral的塞德里克O一样反对对基金模型进行监管的人想要指责,他们必须把目光转向别处。事实上,尽管那些反对监管的人声称是在保护欧盟的创新生态系统,但这样的削减更有可能将金融和法律负担从大公司转移到初创公司身上,而初创公司既没有能力也没有资源来改变基本模式。
法国和德国还声称,监管基础模型将扼杀欧洲在全球舞台上参与人工智能竞争的能力。这个说法站不住脚。拟议的分层方法已经是议会和欧盟理事会之间的妥协,它允许有针对性地出现,以便大型人工智能公司的竞争对手可以在没有繁重限制的情况下出现。欧洲立法者应该对科技巨头及其最新盟友所推动的恐慌情绪充耳不闻,并记住该法案的目的:实现一个公平、平衡的框架,在保护创新的同时防止伤害。它绝不能成为一种立法手段,以行业霸权和零要求为少数硅谷支持的人工智能领导者贴上标签,同时阻止数千家欧洲企业最大限度地发挥这项技术的潜力。
议会支持规范基金会模式,委员会和理事会中的许多人也是如此。商界支持它,成千上万的人工智能专家也支持它,他们对这些日益强大的系统如果不加以控制的危险深表担忧。不应允许少数几家科技公司劫持我们的政治进程,威胁要引爆这项具有里程碑意义的立法,让三年的努力付之东流。不能允许他们把自己的利润置于我们的安全之上,也不能让他们把市场占领置于欧洲的创新之上。