“AI换脸诈骗”事发济南，7秒视频连线让小伙被骗30万元
本文转自：济南时报
市民洪山（化名）到现在都觉得很魔幻，自己居然经历了一场最“先进”的诈骗——AI换脸诈骗。
事情发生在今年5月29日，家住济南市商河县的洪山在家刷短视频时，突然收到一条陌生人发来的消息。对方自称是他的亲戚，随后对方发来一串新的QQ号，希望洪山添加。
刚一加上好友，对方就给洪山拨来视频电话，7秒的视频连线有些卡顿，但那张熟悉的脸和那个熟悉的声音，让他相信这确实就是自己的“哥哥”。
没说几句话，对方就以网络质量不好为由，将视频挂断。在随后的文字聊天中，这位“大哥”称自己急需转一笔钱，但没法直接打款，想要先转账给洪山，然后拜托他帮忙转到指定的银行卡里去。
“那边急用，你现在马上安排过去。”两张成功转账的截图是发来了，可洪山一直没收到这笔款项。“大哥”将原因“甩锅”给银行，“那应该就是24小时到了，银行的信息不会错。”以着急用钱为由，“大哥”反复催促洪山先行垫付。
经不住一再催促，洪山向其指定账户转账了30万元。没过多久，对方又让洪山再转35万元。这时，他猛然想起曾经看过的反诈宣传，赶紧打电话给自己的亲戚，这才知道，一切都是假的。
当晚，洪山便报了案。根据转账卡号的流水，民警发现该银行卡在广东的一家金店有过消费。次日，济南商河县公安局刑警大队便奔赴广东东莞，抓获了犯罪嫌疑人谢某等三人。之后，又有三名犯罪嫌疑人被警方抓获。
在后续的调查中，警方发现，这起AI诈骗真正的源头在缅北。境内的这伙人，是一个专门帮助境外诈骗分子进行洗钱的犯罪团队，他们分工明晰，买金、打款、对接上线等都由不同的人操作。目前他们因涉嫌帮信罪，正在接受调查。
商河县公安局刑警大队中队长张振华说：“这就是近期流行的‘AI诈骗’，一种利用智能AI技术实施诈骗的诈骗手段。”他介绍，因为现阶段AI技术的限制，“换脸”时间长会露出破绽，因此一般视频通话时间很短，像本案中视频通话时长只有7秒。面对用“AI换脸”实施的冒充亲友诈骗，大家也不要太过恐慌，一定要牢记防范要点：在涉及到转账交易等行为时要格外留意，可以通过电话、视频等方式确认对方是不是本人。
“如何识别AI诈骗?看眼睛、看嘴巴、听声音。多数假脸是使用睁眼照片合成，假脸极少甚至不会眨眼，观察眨眼状态是判断一个视频真假的好方法。”张振华介绍，辨别“深度伪造”换脸视频的方法还包括观察语音和嘴唇运动是否同步、情绪是否符合、是否有模糊的痕迹、画面有无停顿或变色。
张振华介绍：“对于构成诈骗罪的，要依照我国刑法第二百六十六条的规定追究刑事责任：对于为利用AI换脸实施诈骗行为提供技术支持、帮助的，要根据反电信网络诈骗法的规定进行行政处罚，构成犯罪的，还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任。”
