2024-10-31 05:04来源:本站
周三,加州一名资深议员将向该州参议院提交一项新的人工智能法案,为监管这一快速发展的技术加入了国家和全球的努力。
根据起草该法案的加州参议员斯科特·维纳(D-San Francisco)的说法,尽管国会有几次试图起草人工智能立法,但加利福尼亚州——硅谷的所在地,世界上大多数顶级人工智能公司都设在这里——在为该行业设置护栏方面可以发挥作用。
“在一个理想的世界里,我们将有一个强有力的联邦人工智能监管计划,”Wiener在周二接受《时代》杂志采访时说,并补充说他支持国会和白宫对这项技术进行监管的尝试。“但加州有过在联邦政府行动太慢或不行动时采取行动的历史。”
他补充说:“我们需要提前应对这些风险,而不是像过去在社交媒体或其他技术上所做的那样,在可能为时已晚之前什么都不做。”
该法案针对处于能力门槛的“前沿”人工智能系统。它建议,需要超过一定数量的计算能力来训练的系统——这个阈值没有在法案中明确规定——必须服从透明度要求。它建议为“那些未能采取适当预防措施的人”建立法律责任,以防止意外后果和恶意使用先进的人工智能系统。它还建议强制实施安全措施,以防止尖端人工智能落入外国手中。该法案要求加州建立“CalCompute”,这是一个拟议中的州研究云,将为学术界和初创公司等大型行业以外的团体提供必要的计算基础设施,以进行高级人工智能工作。
该法案称:“立法机关担心,未来前沿人工智能模型的开发或部署可能会产生危险甚至灾难性的意外后果。”“人工智能技术的快速发展需要一种立法方法,积极主动地预测当前和未来技术变体对公共安全带来的风险,以便安全地利用该技术的全部潜力,为公共利益服务。”
-
不过,就像迄今为止在人工智能监管方面所做的许多努力一样,该法案在细节上还不够。作为一项所谓的意图法案,它的篇幅不到三页,只是粗略地描绘了加州人工智能立法的样子。根据维纳办公室发布的另一份情况说明书,其目的是确立加州立法机构“制定管理人工智能发展的全面规则”的意图,同时允许该提案“在一段时间内产生讨论和反馈,然后以完整的立法文本进行修改,并通过正式的立法程序”。该计划是在明年1月之前对全文进行具体修改,准备在2024年通过立法机构(民主党在参众两院都占绝对多数),最早在2025年初成为法律。
阅读更多:大型科技公司已经在游说削弱欧洲的人工智能规则
维纳告诉《时代周刊》,他想让州议员决定法案条款生效的适当计算能力阈值,以及未能采取充分预防措施的责任是否应由公司或个人承担。“这需要讨论和决定,”他说。“我不想预先判断。我想要的是一个能够真正激励公司和实验室认真对待并做好这件事的系统。”
维纳承认,目前加州政府没有能力审核人工智能系统,也没有能力全面执行该法案。他说:“我不认为明天就会有一个机构能够实施这个计划。”“对话的一部分绝对需要是:哪个机构?它是一个现有的机构,其任务可以增加吗?这是一家新机构吗?”他说,这一决定最终将由加州州长加文·纽森(Gavin Newsom)决定。
“加州正在进行如此多的人工智能创新,”维纳说。“因此,当加州制定有关人工智能的规则时,这将产生全球影响。”
-
但作为人工智能公司的总部所在地,同时寻求为它们制定监管框架,可能会给渴望促进创新和经济增长的政策制定者带来冲突。另外,在9月初,纽森发布了一项行政命令,呼吁对人工智能采取“慎重的方法”,在“保持世界人工智能领导者地位”的同时降低其风险。该行政命令呼应了今年早些时候英国的一项政策提案,该提案强调政府需要避免在人工智能监管方面采取“严厉”的方式,以免扼杀创新。领先的人工智能实验室谷歌深度思维(Google DeepMind)位于英国。