本文转自：环球时报
一段时间以来，与人工智能（AI）深伪相关的新闻时不时出现，受害者众多。前段时间最受关注的AI深伪事件显然是美国人气女歌手泰勒·斯威夫特的不雅照在社交平台上大量传播。与以往不雅照的出处不同，泰勒的照片并非是由狗仔偷拍或从个人电脑泄露，而是使用了AI技术生成。该事件在互联网上一时甚嚣尘上，泰勒的粉丝自发组成了“网军”在各大社交平台维护偶像形象，平台也采取了删除推文、禁止关键词搜索等手段，但依旧难以阻止照片在网络上的病毒式传播。事件引发了公众对深伪技术的担忧，担心AI图片生成技术将侵害人们的正常生活。
这并非深伪技术首次被推到风口浪尖，相关争议从未停止。现在AI生成的图片、有声视频，几乎可以乱真。泰勒其实此前就深受其害，有人曾使用AI生成一段泰勒带货的视频实施诈骗。相比十几年前满是破绽的PS，现今生成式AI产出的内容不仅真假难辨，而且把假照片假视频的门槛大大降低了，普通用户简单输入字段和图片就能创造新的内容。比如，曾经需要数十名技术人员花费数月才能制作出的影视特效场景，如今仅需一台电脑联网便可以完成。各类应用如井喷般出现，无疑给技术的监管带来了巨大的挑战。
以泰勒的事件为例，管控主要有两个重点，分别是源头和传播节点。源头指的是最初制作假照片的不法分子，而传播节点则是在互联网上进行传播的各个账号。
传播节点的限制相对容易，各国也都有既有法律来保护个人隐私，阻止隐私或私密图像在公共场合的传播。但源头的管控则相对困难。一方面，如全面禁止在社交媒体上发布由AI生成或者AI参与修改的图片，乃至于全面禁止相关应用的开发及发布，这类的“一刀切”管控显然并不合适。另一方面，AI生成的图片目前已非常真实，很难简单辨别哪些图片是由AI生成而哪些又是“原生”。问题的关键在于要让公众及平台运营方了解图片的真实性，以及确保对AI生成的内容进行溯源。目前看来，最好的解决方案可能是此前OpenAI、微软、谷歌、Meta、亚马逊等多家技术巨头提出的AI生成内容水印技术，即在AI生成内容中添加可识别的水印，标明作品信息及出处，以确保公众可以区分AI生成内容。当类似泰勒隐私遭受侵害的事件发生时，可以追溯源头。在具体治理场景中，可能还需要政府、AI技术公司、传播平台进行联合治理，才能确保内容生成技术不被用来作恶。
回顾历史，公众接收信息的方式一直在随着科技的发展而变化，技术的进步帮助人们不断拓展信息获取的维度。无线电声波、电视画面、互联网传播都对社会进步起到了重要的推动作用，AI亦是如此。AI模糊了现实与虚拟的边界，终结了“有图有真相”的时代，但同时，AI也在丰富着信息的维度，可以配合文字内容生成的图片乃至视频，给阅读者带来更沉浸的体验，也可以提供包含专家评论和历史信息在内的增强内容。比如，对于历史学家来说，AI生成内容就可以帮助其更好地还原历史的细节。技术本身无关善恶，维护公众利益的关键还是在于规范使用者。只有通过监管部门、信息传播平台以及AI技术公司多方的通力合作，才能找回公众对于信息真实性的信任，在更高的层次上回归“有图有真相”。（作者是奇安信集团职员）
微信扫一扫打赏
支付宝扫一扫打赏
发表评论
评论列表(0)