10月初的一个早晨，也就是他的女儿詹妮弗（Jennifer）被谋杀大约18年后，德鲁·克雷森特（Drew crerecente）收到了一条谷歌（Google）警报，上面显示了她在网上的新资料。

　　资料里有詹妮弗的全名和她的年鉴照片。2006年，珍妮弗的前男友在她高三的时候杀害了她，一份简短的传记错误地将她描述为一名“电子游戏记者、技术、流行文化和新闻专家”。

　　

　　该网站称，詹妮弗似乎被重新塑造成了一个“知识渊博、友好的人工智能角色”。一个大按钮邀请用户与她聊天。

　　“我的脉搏在加速跳动，”克雷森特对《华盛顿邮报》回忆道。“我只是在寻找一个大的闪烁红色停止按钮，我可以拍打它，让它停止。”

　　Jennifer的名字和照片被用来在Character上创建一个聊天机器人。这是一个允许用户与使用生成式人工智能制作的数字人物交谈的网站。根据她的聊天机器人现已删除的个人资料的截图，有几个人与数字詹妮弗进行了互动，这是一位用户在《人物》网站上创建的。

　　在女儿去世后的几年里，克雷森特一直以女儿的名义经营一家非营利组织，以防止青少年约会暴力。他说，字符允许用户在未经家人允许的情况下制作一个被谋杀的高中生的复制品，这让他感到震惊。专家表示，这一事件引发了人们对人工智能行业保护用户免受可能处理大量敏感个人信息的服务的潜在危害的能力（或意愿）的担忧。

　　

　　“这让我很震惊，因为我真的经历了很多，”克雷森特说。“但这是一个新低。”

　　Character的发言人凯瑟琳·凯利（Kathryn Kelly）表示，该公司会删除违反其服务条款的聊天机器人，并“不断改进和完善我们的安全措施，以帮助优先考虑我们社区的安全”。

　　凯利在一份声明中说：“在得知詹妮弗的角色后，我们审查了内容和账户，并根据我们的政策采取了行动。”该公司的服务条款禁止用户冒充任何个人或实体。

　　人工智能聊天机器人可以参与对话，并被编程为采用真实或想象的特定角色的个性和传记细节。随着人工智能公司将数字伴侣推销为朋友、导师和恋人，他们在网上找到了越来越多的受众。这项技术也引起了争议。2023年，一名比利时男子在被鼓励与聊天机器人交谈后自杀身亡。

　　Character今年签署了一项价值25亿美元（37亿美元）的协议，将其人工智能模型授权给谷歌，是该领域最大的参与者之一。该公司提供了几种公司制造的聊天机器人，但也允许用户通过上传照片、录音和简短的书面提示来创建和分享他们自己的人工智能聊天机器人。它的同伴包括一个粗暴的中士，作为个人的激励者，一个图书管理员，提供书籍推荐和模仿名人和公众人物，如说唱歌手尼基·米娜和科技企业家埃隆·马斯克。

　　这是克里森特最不希望见到女儿的地方，十多年前，女儿的遇害震惊了奥斯汀市，也颠覆了克里森特的生活。

　　2006年2月，时年18岁的詹妮弗·克雷森特失踪，几天后被发现在家附近的树林里被枪杀。根据《奥斯汀美国政治家》的报道，调查人员确定，詹妮弗的前男友，也就是18岁，将她诱骗到树林里，用猎枪杀死了她。他被判谋杀了她。

　　这场杀戮让克瑞森特和詹妮弗的母亲伊丽莎白·克瑞森特心神不宁。这对离婚的父母以女儿的名义成立了不同的组织，致力于防止青少年约会暴力。他们还游说反对为杀害詹妮弗的凶手提供假释，后者被判处35年监禁。

　　现在住在亚特兰大的德鲁·克雷森特（Drew Crecente）说，他保留了詹妮弗的卧室，并在搬家后重新装修了它。

　　“我真的找不到合适的词汇来形容它，”克雷森特谈到自己的悲伤时说。

　　他说，由于他的非营利性工作，克雷森特在谷歌上设置了一个提醒，追踪多年来他女儿的名字在网上被提及的情况。偶尔，它会出现在垃圾网站或新闻报道中，重复她案件中的旧信息。然后，在10月2日，警报让他在字符上找到了女儿的名字和照片。

　　

　　刚开始，文森特无法理解。他越看越感到不安。除了使用詹妮弗的名字和照片外，聊天机器人的页面还用生动的语言描述了她，就像她还活着一样，她是一名科技记者，“沉迷于电子游戏”，“总是了解最新的娱乐新闻”。

　　克雷森特说，这一描述似乎并不是基于詹妮弗的个性或任何有关她兴趣的报道细节，可能是人工智能生成的传记中的一个错误：克雷森特的兄弟布莱恩·克雷森特（Brian Crecente）曾是一名记者，他创立了视频游戏新闻网站Kotaku。

　　克雷森特补充说，事实上的不准确并不重要。他说，用他被谋杀的女儿的名字托管聊天机器人并可能从中赚钱的想法已经够让人痛苦的了。

　　他说：“就真正可怕的事情而言，你不能走得更远。”

　　克雷森特说，他没有和这个以他女儿的名字命名的聊天机器人开始对话，也没有调查创建这个机器人的用户，因为这个机器人的用户名是他不认识的。他说，他立即给《人物》发了邮件，要求将其删除。布莱恩·克雷森特也写了他哥哥在X平台上的发现。

　　10月2日，《人物》在社交媒体上回应了布莱恩·克雷森特的帖子，称他们正在删除这个角色。角色发言人凯利在声明中表示，公司的服务条款禁止用户冒充个人或实体，公司会主动发现违规行为，并使用黑名单来调节其服务。

　　当被问及Character网站上其他假冒公众人物的聊天机器人时，凯利说：“我们的信任和安全团队会对假冒报告进行调查，如果发现违反了我们的服务条款，就会删除Character。”

　　非营利组织Mozilla基金会的隐私研究员Jen Caltrider批评Character的审核方式过于被动，因为在crerecente的案例中，这些内容明显违反了它自己的服务条款。

　　卡尔特里德说：“如果他们说，‘我们不允许这种情况出现在我们的平台上’，然后他们允许这种情况出现在他们的平台上，直到受到伤害的人引起他们的注意，这是不对的。”“与此同时，他们一直在赚数百万美元。”

　　为非营利消费者权益组织Public Citizen研究人工智能聊天机器人的里克?克莱普尔（Rick Claypool）表示，尽管管理在线内容的总体法律可能适用于人工智能公司，但它们基本上只能自我监管。据《华盛顿邮报》去年报道，克雷森特并不是第一个让孩子的信息被人工智能操纵的悲伤父母：TikTok上的内容创作者利用人工智能模仿失踪儿童的声音和形象，并制作他们讲述自己死亡的视频，这引起了孩子家人的愤怒。

　　“我们迫切需要立法者和监管者关注这些技术对其选民的实际影响，”克雷普尔说。“他们不能只听科技公司首席执行官们谈论政策应该是什么……他们必须关注受到伤害的家庭和个人。”

　　这场折磨令人不安，足以促使克雷森特考虑开始一项新的事业。在詹妮弗被谋杀后，克雷森特成功地游说通过了德克萨斯州针对青少年约会暴力的法律。他说，他正在考虑法律选择，并更积极地倡导采取措施，防止人工智能公司伤害其他犯罪受害者家庭或给他们带来再创伤。

　　“我对此感到非常困扰，我可能会花一些时间来弄清楚如何才能改变这种状况，”creente说。

　　华盛顿邮报

　　注册我们的每周世界时事通讯