揭发者称,OpenAI非法禁止员工发布安全风险信息

2025-04-06 17:46来源:本站

  

  

  OpenAI举报人向美国证券交易委员会(Securities and Exchange Commission)提起诉讼,指控这家人工智能公司非法禁止其员工向监管机构警告其技术可能对人类构成的严重风险,要求进行调查。

  本月早些时候,举报人向美国证券交易委员会(SEC)专员提交了一封长达七页的信,信中提到了正式投诉,举报人表示,OpenAI向员工发布了过于严格的雇佣、遣散和保密协议,这些协议可能会导致向联邦监管机构提出对OpenAI担忧的员工受到处罚。《华盛顿邮报》独家获得了这封信。

  这封信说,OpenAI让员工签署员工协议,要求他们放弃获得举报人补偿的联邦权利。这些协议还要求OpenAI员工如果希望向联邦当局披露信息,必须事先获得公司的同意。OpenAI并没有在其员工非贬低条款中规定向SEC披露证券违规行为的豁免。

  信中说,这些过于宽泛的协议违反了长期存在的联邦法律和法规,这些法律和法规旨在保护那些希望匿名披露有关公司的不利信息而不必担心遭到报复的举报人。

  “这些合同发出了一个信息,‘我们不希望……员工与联邦监管机构对话,’”其中一名举报人说。由于担心遭到报复,此人要求匿名。“我认为,如果人工智能公司保护自己不受审查和异议的影响,它们就无法开发出安全、符合公众利益的技术。”

  OpenAI发言人汉娜·王(Hannah Wong)在一份声明中表示:“我们的举报人政策保护员工进行受保护的披露的权利。此外,我们认为对这项技术进行严格的辩论是必要的,我们已经对我们的离职流程进行了重大修改,删除了非贬损条款。”

  举报人致信之际,人们担心OpenAI在创造技术时将利润置于安全之上。OpenAI最初是一家以利他主义为使命的非营利组织。《华盛顿邮报》周五报道称,OpenAI匆忙推出了最新的人工智能模型,为ChatGPT提供燃料,以满足公司领导人设定的5月发布日期,尽管员工担心该公司“未能”达到自己的安全测试协议,该协议将使其人工智能免受灾难性的伤害,比如教用户制造生物武器或帮助黑客开发新的网络攻击。OpenAI发言人林赛·赫尔德在一份声明中表示,该公司“没有在安全过程中偷工减料,尽管我们认识到发布对我们的团队来说压力很大。”

  长期以来,科技公司严格的保密协议一直令员工和监管机构感到烦恼。在针对乔治·弗洛伊德(George Floyd)被谋杀的#MeToo运动和全国性抗议活动期间,工人们警告说,此类法律协议限制了他们举报不当性行为或种族歧视的能力。与此同时,监管机构担心,这些条款可能会让科技员工感到困惑,因为他们可能会警惕不透明的科技行业的不当行为,尤其是在有人指控这些公司的算法推广破坏选举、公共卫生和儿童安全的内容之际。

  人工智能的迅速发展加剧了政策制定者对科技行业力量的担忧,引发了大量要求监管的呼声。在美国,人工智能公司在很大程度上是在法律真空中运作的,政策制定者表示,如果没有举报人的帮助,他们就无法有效地制定新的人工智能政策,举报人可以帮助解释这项快速发展的技术带来的潜在威胁。

  爱荷华州共和党参议员查克·格拉斯利(Chuck Grassley)在给《华盛顿邮报》的一份声明中说:“OpenAI的政策和做法似乎对举报人的权利产生了寒蝉效应,他们有权发表意见,并因受保护的披露获得应有的补偿。”“为了让联邦政府在人工智能领域领先一步,OpenAI的保密协议必须改变。”

  这封写给美国证交会主席加里?詹斯勒(Gary Gensler)的信件副本已送交国会。《华盛顿邮报》从格拉斯利办公室获得了这封举报人的信。

  信中提到的官方投诉是在6月份提交给证交会的。代表OpenAI举报人的律师斯蒂芬·科恩(Stephen Kohn)表示,SEC已经对投诉做出了回应。

  目前尚不清楚证交会是否已展开调查。该机构没有回应置评请求。

  信中表示,SEC必须采取“迅速而积极”的措施来解决这些非法协议,因为它们可能与更广泛的人工智能领域有关,并可能违反白宫10月份发布的要求人工智能公司安全开发技术的行政命令。

  信中写道:“任何此类执法努力的核心都是认识到,内部人士……必须能够自由地向联邦当局报告他们的担忧。”“员工处于发现和警告行政命令中提到的各种危险的最佳位置,也处于帮助确保人工智能造福人类的最佳位置,而不是产生相反的效果。”

  科恩说,这些协议威胁员工,如果他们根据商业秘密法向联邦当局举报违法行为,就会受到刑事起诉。他说,员工被指示对公司信息保密,并受到“严厉制裁”的威胁,而不承认他们向政府报告此类信息的权利。

  科恩说:“就人工智能的监管而言,我们还处于起步阶段。“我们需要员工挺身而出,我们需要OpenAI保持开放。”

  信中说,SEC应该要求OpenAI出示每一份包含保密条款的雇佣、遣散和投资者协议,以确保它们不违反联邦法律。联邦监管机构应要求OpenAI将公司所犯的违法行为通知所有过去和现在的员工,并告知他们有权秘密和匿名向美国证券交易委员会报告任何违法行为。根据举报人的信,美国证券交易委员会应根据美国证券交易委员会的法律对OpenAI“每一项不当协议”处以罚款,并指示OpenAI消除其过去做法的“寒蝉效应”。

  包括Facebook举报人弗朗西丝·豪根(Frances Haugen)在内的多名科技公司员工已向美国证券交易委员会(SEC)提起诉讼。SEC在2008年金融危机后建立了一个举报人计划。

  旧金山律师克里斯?贝克(Chris Baker)表示,反击硅谷利用保密协议“垄断信息”是一场旷日持久的战斗。去年12月,他为谷歌员工赢得了一笔2700万美元的和解,指控这家科技巨头利用繁重的保密协议阻止举报和其他受保护的活动。他说,现在科技公司越来越多地用聪明的方式来阻止言论。

  贝克说:“雇主们已经知道,泄漏的成本有时比诉讼的成本要高得多,所以他们愿意冒这个险。”

三九点资讯声明:未经许可,不得转载。