自从AI走进大众的生活后，与普通人也碰撞出了很多新故事。很多年轻人熟练使用AI辅助工作，也有网友用“AI换脸”重现去世的亲人，寄托自己的思念。当然，一项新技术可能也会带来新问题，不可忽视的是，有人在利用AI换脸技术实施诈骗等犯罪行为。
　　在“3·15”即将到来之际，3月13日晚，封面新闻官方微博邀请到了@四川网警的网络安全专家、“超级头脑”创始人@AI超级头脑_张泽伟、北京安剑律师事务所律师@周兆成律师，以及热度很高的“换脸父亲事件”当事人孙歌，与封面新闻主播丹黎一起聊了聊关于AI换脸技术的应用，并为大家普及AI反诈知识。当晚直播共吸引38.2万网友在线观看。

四川网警网络安全专家：视频时可要求对方掐脸、捏鼻子

　　大家日常接触到的AI换脸换声技术，是比较初级的AI诈骗手段吗？四川网警的网络安全专家张警官介绍，最近几年，人工智能等互联网技术日新月异，各种新技术、新应用层出不穷，像换声换脸技术就是人工智能最直接的产物，通过声音和图像视频等素材样本，运用人工智能计算进行深度合成伪造，以假乱真。当前，不法分子的诈骗技术也愈发复杂，当其非法获取受害人的家庭、工作、社会关系、轨迹习惯等个人信息后，将进行全方位画像，利用换脸、换声技术冒充亲戚、朋友等熟人，对目标实施定向诈骗行为，极大地提高了新型AI诈骗的欺骗性和成功率。
　　谈到目前常见的一些AI诈骗手法，张警官介绍，就公安机关办理的案件来看，AI诈骗常用的手法主要有这几种：第一种是AI拟声，即用克隆的声音实施诈骗。第二种是AI换脸，骗子通过网络搜集目标亲友的照片、视频信息后，用“AI换脸”伪装成目标受害人亲友，通过聊天软件与受害人视频聊天实施诈骗。此外，诈骗犯罪分子还会通过AI技术筛选目标人群。例如，在一些金融诈骗案例中，工作人员发现，犯罪嫌疑人会利用AI技术去筛选经常在网上浏览投资信息的人员作为潜在诈骗目标，最后通过套路和剧本演绎，精准实施投资类诈骗。
　　遇到这种类型的诈骗，大家该怎么识别和防范？张警官在线支招：一提高反诈意识；二是涉及资金往来应多途径核对，在视频过程中可以要求对方做掐脸、捏鼻子等特定动作，观察视频有没有穿模或异常变形，以此来识别是否为AI伪造的视频；三是通过电话、微信等多渠道多方式确认；四是在转账时，可以将到账时间设定为2小时到账或者24小时到账，以预留处理时间。
　　直播中，掐脸、捏鼻子等辨别方式引起了大家的热议。“超级头脑”创始人张泽伟说：“随着技术的发展，它的这些漏洞都会被修复，建议大家要求对方做捏成‘猪鼻子’等一些AI不易做到的动作，或制定一些只有家人才知道的暗号，这是最保险的。”
　　张警官尤其谈到，要注意个人信息和隐私数据的保护。AI换脸或者声音合成技术，前提是要搜集受害人的声音和图片视频资料。日常生活中要保护好个人隐私安全，使用正规软件，防止自己的聊天信息、身份信息泄露，同时要尽可能减少社交媒体上自己的照片和声音的曝光。

“换脸父亲事件”当事人孙歌：“复活”亲人一定要谨慎

　　父亲去世后，为了不让91岁身患心脏病的奶奶担心，孙歌利用AI换脸软件，将父亲的脸替换成自己的脸，录制了一段“父亲”报平安的视频安慰奶奶。这段视频在网络上爆火，被网友评论为：“这才是AI存在的意义。”“我要回家多陪陪长辈。”
　　孙歌在直播间分享了自己制作视频的前因后果：起因是因为电影《流浪地球》中刘德华复活女儿的片段，然后结合身边出现的换脸视频小游戏，他萌生了“换脸父亲”安慰奶奶的想法。他在网络上搜索了不少换脸软件，经过多次尝试后，最后花了几十块钱获得了一款换脸软件几天的使用权。“录制好视频后上传一张替换者的照片，这个视频就合成好了，因为我和我父亲的声音很像，所以不存在处理声音的问题，但是如果要替换声音，还需要上传音频。”他说。
　　在谈及使用AI技术“复活”亲人的感受时，孙歌表示，“现在后台有上万人问我使用的是哪款软件，如何使用，但我不会告诉他们，并会劝解对方，如果没有非常成熟的心智和必须使用的理由，建议不要轻易尝试这个方法，因为我在使用时，经历了非常大的心理伤害，见到离世亲人的视频画面时，会很崩溃。”
　　对于AI在生活中的应用，孙歌认为，科技始终是一把双刃剑，不管如何发展，都应该以人为本。

“超级头脑”创始人张泽伟：制作数字分身需得到授权

　　孙歌“换脸父亲”安慰奶奶的故事感动无数网友，也令嘉宾们非常理解。“超级头脑”创始人张泽伟是一位90后，他从2022年开始从事人工智能行业，为普通人定制“AI数字人”，甚至在一年内完成653个订单，平均一单几千元到1万元不等。
　　张泽伟说，他制作的第一个“AI数字人”的初衷与孙歌的经历类似。目前“超级头脑”所接触的客户，主要就是这一类型。目前，张泽伟和团队也在为一些渐冻症患者免费制作数字分身。
　　除了“复活”亲人，也有人想要制作偶像的AI。对此张泽伟说：“这需要偶像的授权，不然我们不会做。”
　　至于如何规避AI换脸技术被犯罪分子所利用，张泽伟说，目前他们有一整套流程，最主要的方式是与申请人进行前期沟通。“如果在前期沟通中发现对方的意图很不明确，我们就会直接否决。其次会在合同和协议写清楚，不能把我们制作的AI虚假人用于任何违法违规途径，如果一旦发现，我们会立刻向相关机构举报。第三就是需要证明和授权。”他说，如果申请人要制作自己的亲人或某人的数字分身，需要得到对方的授权文件，如果是去世的人，需要得到直系亲属的授权。

律师自曝曾被伪造数字分身 使用AI技术应注意侵权问题

　　在被问及是否有AI相关案例可以分享时，周兆成律师笑着说：“有自媒体将我网络上发布的普法视频制作成为数字人，我还被调侃为‘中国第一位律师数字分身’。”
　　“AI技术出现是对人类和社会的巨大挑战，但科技无罪，是否犯罪在于使用者。”周兆成认为，大家应积极面对AI科技产生的一系列问题，首先是技术的创造者，要勇担社会责任，守好科学、伦理、法律之间的平衡问题。“如果有人需要制作AI形象，那技术人员必须要确认是否有肖像使用权，包括粉丝制作偶像的AI形象等，都需要确认是否侵权。”他说。
　　对于普通人，周兆成提醒网友要时刻保持警惕心，注意隐私安全，如果想“复活”亲人，应该更加理性，切勿过于沉溺于悲伤之中。“用AI技术复活亲人可以看作是追思，但我们也应该看到这始终是一个虚拟形象，代替不了生活。”他说。
　　在直播中，网友们纷纷发表自己的看法：“人工智能迭代太快了，可能现在的案例还不是很多，但将来必然是一个大趋势。”“与时俱进的宣传普法很有必要，感谢分享。”
　　华西都市报-封面新闻记者 吴德玉　见习记者 刘叶 王一理