2025-04-28 14:52:04 | 来源: 智享导航
AI换脸技术的发展,已经引起了警方的高度重视。?
据香港媒体2月4日报道,??香港警方披露境内首宗多人换脸AI技术诈骗案,一家总部位于英国的跨国公司的香港分公司被AI换脸技术的一段视频,直接骗走2亿港元。

该诈骗集团首先在网上搜集这家受害单位的英国总部一众高层出镜的视频素材,该公司在YouTube平台发布公开视频,**逐步收集面部数据和声纹数据。
然后通过Deepfake深度伪造技术,将**提前准备好的诈骗视频,换上多名该公司总部高层的面部与声音。

再按剧本制作了一段“高层发言”的钓鱼视频,以公司的“CFO首席财务官”名义发出钓鱼信息,邀请香港分公司的职员参加线上会议。?️
会议期间,?屏幕上出现了4-5位总部公司的高层,“CFO”指示香港分公司职员进行自我介绍,其他伪装的高层简短“讨论”公司的交易决策,并与“CFO”跟进香港分公司的汇款事宜。
通过剧本循循善诱,指挥香港职员分15次,将共计2亿港元的现金转账到5个本地银行户口。
不幸的是,由于与会的高层都被集体「换脸」,加上声音很相似,本着「眼见为实」,香港方面的职员不虞有诈放下戒备心。
香港分公司的财务人员直至事后向总部确认打款?,才知道受骗。

香港警方深入调查发现,本案的「AI换脸」有几个特点:
1️⃣为了让受害者深信不疑,**采取「多人换脸」的方式增加可信度?
2️⃣**制作的英国总部高层的伪造发言视频,都是提前根据脚本录制的视频片段,所以视频会议上并不会与香港的职员互动,但是也不提供发言机会
3️⃣为了避免露出马脚,视频会议在数分钟内结束⏰
4️⃣所谓的总部高层现身下达指令,只是要给香港职员营造一个「最高指示」的场景,接纳自上而下的决策
通过本案我们可以发现,该公司的职员缺乏自我判别能力,一味照办高层“决策”酿成大错。
香港警方强调,科技发展一日千里,市民时刻保持警惕,养成一个防诈的习惯,对任何社交平台软件所收到信息,都要有一个防备心。
⚠️尤其是,那些涉及到金钱往来的信息!?
谨记在人工智能「Deepfake深度伪造」下,网上已经不是「眼见为实,有图有真相」。
热门榜单
360AI搜索
常用AIsharegpt
常用AIGPTs:GPT Builder创建器
常用AIHi Echo — 网易有道
常用AI美图Moki
常用AIPicTech AI
常用AIPhotosonic
常用AIDreamUp
常用AIScribble Diffusion
常用AI热门资讯
讯飞星火大模型V3.5春季上新,长文本长图长语音,生产力实测:你的超级知识助手来了!
12-26有哪些好用的AI工具_AI工具测评使用_
12-31荣耀CEO赵明:荣耀领先三年,很高兴看到苹果追随我们的AI手机发展路线
02-24马斯克突然发布新版Grok-2大模型,牺牲特斯拉资源叫板OpenAI,一手实测来了
12-25夸克AI搜索_夸克最新动态_夸克官方网站
12-26SD3超详细使用教程+效果测评丨附热门模型下载地址
12-26快手AI文生视频大模型【可灵】首发实测:这可能将成为真正意义的第一款「中国版Sora」
12-26体验完腾讯的AI助理应用「腾讯元宝」,完整的公众号内容生态将是它的最强杀手锏
12-26Stable Diffusion 3最新模型测评丨SD3模型ComfyUI流程简单搭建
12-26商汤科技发布「日日新大模型」5.0:直接对标GPT-4 Turbo,全能分析轻松掌握周冠宇F1赛事数据
12-26