2025-04-08 04:12来源:本站
白宫和私营部门的成员再次聚在一起,争取达成一系列新的自愿承诺,以阻止人工智能辅助下的性侵犯内容的扩散。
周四宣布,Adobe、Anthropic、Cohere、Common Crawl、微软和OpenAI签署了各种承诺,承诺防止使用他们的生成式人工智能系统创建性虐待内容。这包括承诺负责任地采购数据集来训练模型,纳入反馈循环和压力测试,以防止人工智能系统学习性虐待提示,并从人工智能训练数据集中删除明确的内容。
声明称:“今天的承诺代表着整个行业在降低人工智能工具产生滥用图像的风险方面向前迈出了一步。”“它们是由私营部门、学术界和民间社会组织组成的更广泛生态系统的一部分,这些组织致力于识别和减少未经同意的亲密图像和儿童性虐待材料的危害。”
拜登政府已将自己定位为积极与私营部门领导人合作,以帮助防止生成式人工智能系统的广泛滥用,并在2023年夏天推出了一系列自愿承诺,以促进政府所倡导的“设计安全”人工智能姿态。
根据乔·拜登总统2023年10月关于人工智能的行政命令和2022年《反妇女暴力法》的重新授权,白宫科技政策办公室的领导层此前曾呼吁采取行动,防止使用先进的人工智能系统制作性虐待材料。
支付公司也同意加入制止性侵犯合成内容的斗争。Cash App和Square都同意监控和限制与制作或发布基于图像的性虐待相关的支付,并扩大参与检测性勒索计划的举措。
谷歌还同意开始调整其搜索引擎结果,以打击未经同意的图片,微软、GitHub和meta都做出了个人承诺,删除包含性虐待内容的内容,并加强内部报告系统。
签署承诺帮助公共和私营部门实体监督此类努力成果的民间社会团体包括民主与技术中心(Center for Democracy and Technology)、网络民权倡议组织(Cyber Civil Rights Initiative)和全国终止家庭暴力网络(National Network to End Domestic Violence)。
白宫表示:“通过一个多方利益相关者工作组,他们将继续确定干预措施,以预防和减轻基于图像的性虐待的产生、传播和货币化所造成的危害。”