商业
研究人员警告,人工智能聊天机器人将引发“数字幽灵”

  

  

  研究人员警告称,人工智能模拟死人可能会导致“不必要的数字幽灵”。

  剑桥大学伦理学家的一项新研究发现,能够模拟逝者性格的人工智能聊天机器人——被称为死机器人——应该制定安全协议,以保护幸存的朋友和亲戚。

  剑桥大学伦理学家的一项新研究发现,能够模拟逝者性格的人工智能聊天机器人——被称为死机器人——应该制定安全协议,以保护幸存的朋友和亲戚。

  一些聊天机器人公司已经为客户提供了使用人工智能模拟已故亲人的语言和性格特征的选择。

  剑桥大学Leverhulme未来智能中心的伦理学家表示,这种冒险是“高风险的”,因为它们可能对人们的心理产生影响。

  研究报告的合著者、莱弗休姆中心的托马兹·霍拉内克博士说:“至关重要的是,数字来世服务不仅要考虑他们所创造的那些人的权利和同意,还要考虑那些必须与模拟互动的人的权利和同意。”

  “这些服务有可能给人们带来巨大的痛苦,如果他们受到不受欢迎的数字困扰,因为人工智能对他们失去的人进行了惊人的精确再现。潜在的心理影响,特别是在已经很困难的时候,可能是毁灭性的。”

  这一研究结果发表在《哲学与技术》杂志上,题为《悲伤机器人、死亡机器人、死后化身:论生成式人工智能在数字死后产业中的负责任应用》。

  该研究详细介绍了声称能够起死回生的人工智能聊天机器人公司如何利用这项技术向家人和朋友发送使用死者数字肖像的信息和广告。

  研究人员警告说,这样的结果相当于“被死者跟踪”。

  研究报告的合著者Katarzyna Nowaczyk-Basinska博士说:“生成式人工智能的快速发展意味着,几乎任何拥有互联网接入和一些基本知识的人都可以让已故的亲人复活。”

  “人工智能的这一领域是一个道德雷区。重要的是要优先考虑死者的尊严,并确保这不会受到数字来世服务的经济动机的侵犯。

  “与此同时,一个人可能会把人工智能模拟作为告别礼物,送给那些没有准备好以这种方式处理悲伤的亲人。”

  该研究提出的建议包括终止无用机器人的保护措施,以及提高技术使用方式的透明度。(?《独立报》)

点击分享到

热门推荐