美一母亲被控使用深度伪造技术骚扰女儿所在拉拉队的竞争对手
据外媒报道，据报道，宾夕法尼亚州东部的一名女子在一场骚扰和欺凌活动中制作了一系列深度伪造视频，意在恐吓跟她女儿竞争的十几岁女孩并将她们踢出当地的拉拉队。据Hilltown县地方检察官Matthew Weintraub披露称，本月早些时候，Hilltown警方指控Raffaela Spone三项网络骚扰一名青少年的罪名，据称她从去年7月开始了这种骚扰行为。
据了解，受迫害的女孩们收到了“你应该自杀”等这样语音和短信，另外还有从她们社交媒体资料上截取的经过修改的视频--在这些视频中，她们看起来像是裸体或是在吸电子烟或喝酒。另外，被修改的图像还被配上文字说明，诸如“吸毒、复仇、约会男孩、吸烟”及“在岸边喝酒、吸大麻、使用‘attentionwh0re69’网名”等。这些图片和视频也被发送给了球队的教练，似乎是想把这些女孩赶出球队。
警方在审查中发现了这些视频是类似Deep Fakes（深度伪造）程序的结果。据称，Spone使用了几个电话号码来发送信息，调查人员经过调查发现，所有号码都是通过同一家批发商获得的。为此，执法部门对批发商执行了搜查令以获取有关原始电话的IP地址信息。结果这些信息被发现跟Spone的住所有关，在搜索了Spone的设备后，警方确定她的手机就是罪案工具。
Weintraub表示，Spone面临的是轻罪指控，而不是更高级别的指控，因为这些“裸体”照片实际上并没有描绘未成年人的性情景。相反，这些图片基本上是用数码技术移除一件现有的比基尼以创造出“没有明显生殖器”的“芭比娃娃”效果。如果照片看起来真的像裸体，难么Spone将面临更严重的重罪指控。
跟许多曾经很新颖的技术一样，制作深度伪造视频的工具正在迅速变得更容易获得且更便宜。为此，美国数个州已经通过了专门针对深度伪造的法律。2019年，弗吉尼亚州成为了该国首个对传播伪造、非经双方同意的性主题材料即复仇色情实施刑事处罚的法律。同年，德克萨斯州禁止了旨在影响选举的深度伪造行为。加州随后通过了两项法律，一项是针对复仇色情的，另一项是针对操纵选举的，其他几个州也在继续引入立法来对付其中一项行为。
以此同时，联邦政府也在试图在这个问题上找到自己的出路。2019年12月通过的《2020年国防授权法案》就包含了几项跟研究深度伪造内容构成的潜在国家安全威胁有关的条款。2021年的版本也包含了类似的规定。