香港一家跨国公司的员工遭遇了一场深度伪造的诈骗，被骗子邀请进了一场用Deepfake技术做的「高管视频会议」，并在会议中被要求转账 2 亿港币到不知名的账户。这位员工直到5天后才意识到自己被骗。
近日，「AI换脸」技术多次成为热搜话题，先是大量泰勒斯威夫特的「AI艳照」充斥网络，迫使X（原推特）只能屏蔽与「Taylor Swift」相关的搜索。如今，香港警方披露了一起更为荒谬的诈骗案例：一家英国跨国企业的香港分公司被骗子利用伪造的「AI换脸」和AI音频合成制作的视频，冒充总公司CFO，成功骗走了2 亿港币！
报道指出，这位员工收到了一封英国总部CFO的邮件，声称总部正在进行一项「秘密交易」，需要将公司资金转至香港本地的账户。虽然员工 最初对这封邮件并不信任，认为是钓鱼邮件，但骗子通过不断的邮件沟通和一场视频电话最终说服了他。在视频电话中，员工看到了公司CFO和其他认识的同事，大家一同开会。骗子通过视频会议要求员工进行自我介绍，然后突然中断了视频，留下转账的指令。员工相信这是真实的，分15次将2 亿港币汇款到5个香港本地的账户。
香港警方在通报中表示，以往的「AI换脸」诈骗通常是一对一的，而这次骗子采用了视频电话会议形式，伪造了一个「高管团队」，大幅提高了可信度。通过Deepfake技术，骗子成功伪造了英国公司高管的形象和声音，参与视频会议的都是真人，然后通过「AI」换脸将骗子的脸和声音替换成高管的，最终下达了转账指令。
除了被骗的员工之外，骗子还联系了其他香港分公司的员工。警方表示案件仍在进一步调查中，尚未逮捕任何嫌疑人，但希望通过向公众发布信息防止类似手法的再次成功。
警方提供了一些识别「AI换脸」诈骗的方式，建议在视频中谈论涉及钱财时要提高警惕，观察画面是否有奇怪的变形，可以要求对方进行头部和面部的快速移动，并提出只有双方知道的问题来验证对方的真实身份。此外，银行也在部署预警系统，对于与可疑账户的交易发出提醒。
国外网友对此纷纷感叹Deepfake技术的强大，有人调侃是否可以用Deepfake技术替代自己参加会议，以便多睡一会。也有网友质疑整个故事是否是被骗员工编造的，认为他可能自己也参与了这个骗局。
深度伪造技术的由来可以追溯到Reddit用户「deepfakes」，该用户于2017年在Reddit社交网站上发布了将女演员的脸部替换到其他视频中的作品，从而使「Deepfake」一词广为人知。Deepfake的本质是一种深度学习技术，使用生成对抗网络和卷积神经网络等算法将目标对象的面部「嫁接」到被模仿对象上，实现自动化的面部替换。随着技术的发展，越来越多的研究关注如何识别和检测Deepfake技术的应用，以控制其负面影响。
最近，加州大学河滨分校的计算机科学家团队开发了一种新方法，可以以高达99%的准确率检测深度伪造视频中被操纵的面部表情。这种方法利用深度神经网络分为两个部分，第一个部分辨别面部表情，提供关于包含表情的区域的信息，第二个部分是一个编码器-解码器架构，用于检测和定位。这个方法被命名为「表达操纵检测」（EMD），在实验中表现出99%的准确率，对于深度伪造视频的识别具有重要意义。
在技术和政策层面上的努力可能是未来控制Deepfake技术负面影响的关键。