美国收到数千份人工智能生成的虐待儿童内容的报告,风险越来越大

2025-03-17 13:18来源:本站

  

  

  (路透社)-美国国家失踪和受虐儿童中心(NCMEC)表示,去年收到了4700份关于人工智能生成的内容描绘儿童性剥削的报告。

  NCMEC告诉路透社,这一数字反映了一个新出现的问题,随着人工智能技术的进步,这个问题预计会加剧。

  近几个月来,儿童安全专家和研究人员对生成式人工智能技术的风险提出了警告,这种技术可以根据提示创建文本和图像,可能会加剧在线剥削。

  NCMEC尚未公布其在2023年从所有来源收到的虐待儿童内容报告的总数,但在2022年收到了约8830万份报告。

  “我们收到了来自生成型人工智能公司本身、(在线)平台和公众的报告。这绝对是在发生,”NCMEC的高级副总裁约翰·谢汉说。NCMEC是向执法部门报告虐待儿童内容的国家信息中心。

  周三,meta平台、X、TikTok、Snap和Discord的首席执行官在参议院关于网络儿童安全的听证会上作证,议员们质疑社交媒体和通讯公司为保护儿童免受网络掠夺者侵害所做的努力。

  斯坦福互联网观测站的研究人员在6月份的一份报告中表示,生成式人工智能可能会被滥用者利用,通过创建与儿童相似的新图像来反复伤害真实的儿童。

  NCMEC的CyberTipline主任法伦·麦克纳尔蒂(Fallon McNulty)表示,被标记为人工智能生成的内容正变得“越来越逼真”,这使得确定受害者是否是真人变得越来越困难。NCMEC的CyberTipline负责接收在线儿童剥削的报告。

  McNulty说,OpenAI是广受欢迎的ChatGPT的创造者,它已经建立了一个向NCMEC发送报告的流程,该组织正在与其他生成型人工智能公司进行对话。

  (Sheila Dang奥斯汀报道,Kylie MacLellan编辑)

  ×

三九点资讯声明:未经许可,不得转载。