印度女子身份遭盗用,成为深度伪造色情AI内容受害者

印度Instagram名人Babydoll Archi的身份被盗用,成为一则深度伪造的新闻。一段展示她身穿红色沙丽舞蹈的视频和一张与美国成人影星Kendra Lust合影的照片迅速走红,使她的粉丝数在几天内翻倍至140万。然而,随之而来的问题是,这位网红背后并没有真正的女性。这个Instagram账号是伪造的,虽然使用的面孔与阿萨姆邦地的迪布鲁格尔市一名家庭主妇极为相似,我们将她称为Sanchi。真相在她的兄弟报警后浮出水面。负责调查的高级警官Sizal Agarwal告诉BBC,Sanchi和她的前男友Pratim Bora发生了矛盾,而他所创建的AI形象旨在对她进行“纯粹的复仇”。
Bora是一名机械工程师,也是一个自学的人工智能(AI)爱好者,他使用Sanchi的私人照片创建了一个虚假的个人资料。Bora目前被拘留,尚未发表任何声明。BBC已联系他的家人,将在得到回应后更新文章。

Babydoll Archi于2020年创建,首次上传作品是在2021年5月。Ms Agarwal表示,最初的照片是她的真实照片经过变形处理。随着时间的推移,Bora使用ChatGPT和Dzine等工具创建了一个AI版本,然后用深度伪造的照片和视频填充了账号。
Sanchi的家人在7月11日晚向警方提交了一份简短的两段投诉信,附上一些照片和视频作为证据。Ms Agarwal表示,投诉信没有点名任何人,因为他们不知道背后的幕后操作者是谁。
警方得知Babydoll Archi的情况后向Instagram发函,要求了解账号的创建者详情。Ms Agarwal表示:“一旦我们从Instagram收到信息,我们询问Sanchi是否认识Pratim Bora。确认后,我们追踪到他在邻近的廷苏基亚地区的住址。我们于7月12日晚上将其逮捕。”

推荐阅读