2024-11-05 01:16来源:本站
meta- q的最高政策主管周二表示,meta- q将在未来几个月开始使用一套内置在文件中的隐形标记,检测和标记其他公司的人工智能服务生成的图像。
meta公司全球事务总裁尼克·克莱格在一篇博客文章中写道,该公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容应用这些标签,以向用户表明,这些图像——在许多情况下类似于真实照片——实际上是数字创作。
该公司已经给使用自己的人工智能工具生成的任何内容贴上了标签。
克莱格说,一旦新系统启动并运行,meta将对OpenAI、微软(Microsoft)、Adobe、Midjourney、Shutterstock和Alphabet旗下的谷歌(Google)运营的服务上创建的图像做同样的处理。
这一公告让人们初步了解了科技公司正在开发的一个新兴标准体系,该体系旨在减轻与生成式人工智能技术相关的潜在危害。生成式人工智能技术可以根据简单的提示吐出虚假但看似真实的内容。
这种做法建立在过去10年由其中一些公司建立的一个模板之上,该模板旨在协调跨平台删除被禁内容,包括描述大规模暴力和剥削儿童的内容。
克莱格在接受路透社采访时表示,他相信这些公司目前可以可靠地标记人工智能生成的图像,但他表示,标记音频和视频内容的工具更为复杂,仍在开发中。
克莱格说,“尽管这项技术还没有完全成熟,尤其是在音频和视频方面,但我们希望能够创造一种势头和激励,让行业的其他公司效仿。”
在此期间,他补充说,meta将开始要求人们给自己修改过的音频和视频内容贴上标签,如果他们不这样做,将会受到处罚。克莱格没有说明惩罚措施。
他补充说,目前还没有可行的机制来标记由ChatGPT等人工智能工具生成的书面文本。
“那艘船已经启航了,”克莱格说。
meta发言人拒绝透露该公司是否会对其加密消息服务WhatsApp上分享的生成式人工智能内容贴上标签。
周一,meta的独立监督委员会谴责了该公司对误导性篡改视频的政策,称该政策过于狭隘,内容应该贴上标签,而不是删除。
克莱格说,他大体上同意这些批评。
董事会是对的,他说,meta现有的政策“根本不适合一个环境,在这个环境中,你将有比以前更多的合成内容和混合内容。”
他引用了新的标签合作伙伴关系作为证据,证明meta已经朝着董事会提议的方向发展。