演员拉什米卡·曼丹娜的深度假视频在网上疯传，引发了人们对滥用智能手机上易于使用的工具来制作恶作剧和冒犯性图像的严重关注。

　　在这段仍在社交媒体平台上流传的短视频中，一名打扮成拉什米卡(Rashmika)的女子穿着暴露的衣服走进电梯。只知道她不是拉什米卡。周二晚些时候，演员卡特里娜·凯夫的深度假静态图像出现了，试图改变她即将上映的电影《老虎3》预告片中的一个流行场景。

　　虽然拉什米卡对这段假视频表示震惊，但宝莱坞偶像阿米塔布·巴克坎在X上评论道:“是的，这是一个强有力的法律案例。”

　　周二，该中心敦促数字媒体中介机构识别错误信息和深度造假，并在36小时内删除任何报道内容，否则将根据《信息技术法》(IT Act)采取行动。

　　原始视频的主角是英裔印度人扎拉·帕特尔，她在Instagram上拥有45万粉丝。扎拉在个人资料中称自己是“全职工程师”和“心理健康倡导者”，她分享的这段视频目前已经获得了超过1.8万个赞。身份不明的不法分子把拉什米卡的脸叠加在了扎拉的脸上。

　　就在不到5个月前，喀拉拉邦的一位社交媒体用户用他的深度模仿教父系列逗乐了所有人，他分别用莫汉拉尔、马莫提和法哈德·法西尔取代了阿尔·帕西诺、雷克斯·罗科和约翰·卡扎勒。

　　拉什米卡称这段视频“很可怕”，并说她受伤了。

　　“分享这一点我真的很伤心，不得不谈论我在网上传播的深度假视频。“老实说，这样的事情不仅对我来说非常可怕，而且对我们每个人来说都非常可怕，因为我们今天很容易受到如此多的伤害，因为技术是如何被滥用的，”这位演员周一在X上说。

　　“今天，作为一名女性和演员，我感谢我的家人、朋友和祝福我的人，他们是我的保护和支持系统。但如果这发生在我上中学或大学的时候，我真的无法想象我该如何解决这个问题。我们需要作为一个社区紧迫地解决这个问题，以免更多人受到这种身份盗窃的影响，”拉什米卡补充道。

　　Zara在她的Instagram故事中澄清说，她没有参与deepfake视频，甚至她也很难过。

　　“我注意到有人用我的身体和一位著名宝莱坞女演员的脸制作了一个深度假视频。我没有参与deepfake视频，我对正在发生的事情深感不安和不安。”

　　“我担心女性和女孩的未来，她们现在不得不更加害怕把自己放在社交媒体上。请退后一步，核实一下你在网上看到的内容。并不是互联网上的一切都是真实的，”她警告说。

　　位于班加罗尔的研究机构互联网与社会中心(Centre for Internet and Society)的人工智能研究员什维塔?莫汉达斯(Shweta Mohandas)认为，这些基于人工智能的工具正在快速扩散。“这项技术正变得越来越简单和快速。这才是真正的危险。它可以用于基于性别的暴力，亲密伴侣暴力。这非常令人担忧，”她告诉《每日电讯报》。

　　“任何人的照片都很容易在社交媒体上找到，所以很容易为他们制作这种深度伪造的视频。而且这变得非常容易，因为这些应用程序做了很多繁重的工作，而不像过去需要熟练使用Photoshop等软件来做任何事情，”她指出。

　　虽然Shweta不认为可以采取很多预防措施来阻止那些滥用这种技术的人，但她说，即使是现有的民事和刑事法律也可以采取惩罚性措施。“现有法律在很大程度上可以处理这些罪行。刑事和民事法律可以用来惩罚那些滥用这些技术的人，而不是等待新的立法。”

　　南方电影制片人帕万·库马尔表示，这段深度伪造的视频很可怕。“这非常可怕。我昨天正在讨论。再过一两年，我们就不知道什么是真的了，”他告诉本报。

　　“《教父》的深度模仿很有艺术性。但这是完全不同的，”他对滥用的范围表示担忧。

　　库马尔警告说，控制技术的传播是不可能的。“真的有可能监管这项技术吗?”我认为这是我们应该了解如何处理的事情，尽管这项技术也有积极的因素。”

　　印度国大党联席院议员Saket Gokhale周二致信电子和信息技术国务部长Rajeev Chandrasekhar，提到“深度虚假视频技术的扩散可能会产生严重后果，包括羞辱和针对女性，将无辜的人卷入犯罪视频，在社交媒体上针对个人进行虚假攻击，以及在选举和国内政治中进行操纵”。

　　Gokhale试图了解联邦政府正在采取哪些措施来处理“深度虚假视频和人工智能生成的虚假图像的危险和威胁”，这些虚假图像甚至可能损害国家的主权和完整，并有可能造成法律和秩序问题。

　　在回应一位X用户寻求法律和监管框架来处理深度伪造的信息时，钱德拉塞卡表示:“政府致力于确保所有使用互联网的数字用户的安全和信任。”

　　“根据2023年4月发布的IT规则，平台有法律义务确保任何用户不发布错误信息，并确保在任何用户或政府举报后，在36小时内删除错误信息。”

　　“如果平台不遵守这一点，将适用第7条规则，受害方可以根据IPC的规定将平台告上法庭。深度虚假是最新的、甚至更危险、更具破坏性的错误信息，需要平台来处理。”