阅读全文

⭐⭐⭐ Spring Boot 项目实战	⭐⭐⭐ Spring Cloud 项目实战
《Dubbo 实现原理与源码解析 —— 精品合集》	《Netty 实现原理与源码解析 —— 精品合集》
《Spring 实现原理与源码解析 —— 精品合集》	《MyBatis 实现原理与源码解析 —— 精品合集》
《Spring MVC 实现原理与源码解析 —— 精品合集》	《数据库实体设计合集》
《Spring Boot 实现原理与源码解析 —— 精品合集》	《Java 面试题 + Java 学习指南》

摘要: 原创出处 林小浩 「林小浩」欢迎转载，保留摘要，谢谢！

• 10分钟被骗430万
• 注意AI新骗局
• 写在最后

---

🙂🙂🙂关注**微信公众号：【芋道源码】**有福利：

1. RocketMQ / MyCAT / Sharding-JDBC 所有源码分析文章列表
2. RocketMQ / MyCAT / Sharding-JDBC 中文注释源码 GitHub 地址
3. 您对于源码的疑问每条留言都将得到认真回复。甚至不知道如何读源码也可以请教噢。
4. 新的源码解析文章实时收到通知。每周更新一篇左右。
5. 认真的源码交流微信群。

---

防不胜防，10分钟就被AI骗走430万！这是这两天震惊全网的真实诈骗案件。

据包头警方发布，一公司老板接到朋友的微信视频电话，由于长相和声音确认都是“本人”，他丝毫没有怀疑就把钱打了过去。

结果一问朋友，对方根本不知道此事。这人才知道，原来诈骗者DeepFake了他朋友的面部和声音。

消息一出，直接冲上热搜第一。网友们纷纷表示：离大谱啊！不敢接电话了。

不过，虽说是看上去离谱的小概率事件，但据相关统计，AI技术新骗局来袭后，诈骗成功率竟接近100%。

10分钟被骗430万

据微信号平安包头介绍，一个月前，福州市一科技公司法人代表郭某，突然接到好友的微信视频。

聊天过程中，这个“好友”透露，自己朋友在外地投标，需要430万保证金，且公对公账户过账，所以想用郭某公司的账户走一下账。

背景介绍之后，“好友”就找郭某要了银行卡号，而后甩出一张银行转账底单的截图告诉郭某，已经把钱打到了郭某的账户上。

结果因为已经视频聊天以及各种“物证”，郭某并没有过多怀疑，甚至也没去核实钱款是否到账。

几分钟之后郭某就分两笔将钱打了过去，本想去跟好友报备一下：“事情已经办妥”。

然而，好友缓缓打出来一个问号。

这时他才恍然大悟，中了AI的高端大计，一点都没看出来“朋友”的脸和声音都是假的。

好在郭某反应比较快，第一时间报警。于是在警方和银行联动下，仅用时10分钟就成功拦截了330多万元被骗资金。

而在这起案件背后，核心涉及了AI换脸以及语音合成这两个技术。

大众所熟知的AI换脸方面，现在即便一张2D照片，就能让口型动起来。据此前新华每日电讯消息，合成一个动态视频，成本也仅在2元至10元。

当时涉案嫌疑人表示：“客户”往往是成百上千购买，牟利空间巨大。

至于面向更精准、更实时的大型直播平台，视频实时换脸的全套模型购买价格在3.5万元，而且不存在延迟、也不会有bug。

至于像语音合成方面，技术效果也是越来越逼真，新模型和开源项目涌现。

前段时间，微软新模型VALL·E炸场学术圈：只需3秒，就可以复制任何人的声音，甚至连环境背景音都能模仿。

而具备语音合成功能的工具Bark，更是曾登顶GitHub榜首，除了声色接近真人，还能加入背景噪音和高度拟真的笑声、叹息和哭泣声等。

在各类社交网络上，各种小白教程也层出不穷。

要是结合虚拟摄像头，可能就更加防不胜防。

只需一个软件应用程序，就可以在视频通话中使用任意视频资源。

点击接通后，对方完全不会看到播放、暂停视频等具体操作，只会看到视频播放的效果，“接通后看到的就是美女了”。

这样一来，不仅视频可以通过虚拟摄像头，随意拍摄甚至更换，甚至连说话方式都可以真人定制。

核心技术门槛的降低，也就给了犯罪分子可乘之机。

注意AI新骗局

事实上，AI加持下的新型网络诈骗，并不止这一种操作。

无论是国内还是国外，都有不少用AI换脸的诈骗案例，小到在网络购物、兼职刷单等方面骗点小钱，大到冒充客服、投资理财人员等身份，获取银行卡账号密码直接转一大笔账，都有出现。

在国内，据南京警方消息，此前就出现过一起被QQ视频AI诈骗3000元的案例。

当事人小李表示，自己的大学同学小王通过QQ跟自己借3800元，称自己很着急，因为表姐住院了。

小李怀疑了小王的身份，而小王很快给她传来了一个4~5秒左右的动态QQ视频，不仅背景在医院，而且还打了声招呼。

这让小李打消了疑虑并转了3000元，然而随后发现对方已经将她删除拉黑，发现视频原来是AI伪造的。

目前包括北京反诈、武汉市反电信网络诈骗中心等官方公 众号平台，都警告了AI技术新骗局的严重性，甚至表示“诈骗成功率接近100%”。

可别以为这些诈骗现象只在国内出现，国外的语音诈骗同样花样百出。

一种方式是用AI合成语音骗取电话转账。

据Gizmodo介绍，英国最近就同样发生了一起涉及金额高达22万英镑（折合人民币约192.4万元）的诈骗案件。

一位当地能源公司的CEO，在不知情的情况下被骗子“DeepFake”了自己的声音。随后，骗子用他这段声音，电话转账了22万英镑到自己的匈牙利账户。

据CEO表示，他后来自己听到这段AI合成语音时都惊讶了，因为这段语音不仅模仿出了他平时说话的语调，甚至还带有一点他的口癖，有点像是某种“微妙的德国口音”。

另一种则是用合成语音冒充亲友身份。

据nbc15报道，美国一位名叫Jennifer DeStefano的母亲，最近接到了一个自称是“绑匪”的诈骗电话，对方称劫持了她15岁的女儿，要求这位母亲交出100万美元的赎金。

电话那头传来了女儿的“呼救声”，不仅声音、就连哭声都非常相似。幸运的是她的丈夫及时证明了女儿是安全的，这次诈骗才没能成功。

写在最后

看到这里不得不说，细思极恐，头皮发麻，作为网络用户的我们平时还是得多加注意。

随着这段时间AIGC技术的持续爆发，确实带来了很多的机遇，但是不得不说，也带来了诸多挑战。

发展过程中如何控制好技术的使用很重要，而作为技术人员，则也要守好自己的底线，毕竟技术也是一把双刃剑。