冒充马斯克诈骗7000万AI时代眼见不一定为实

xcy232323

日前，有外媒报道，韩国一女子被冒充埃隆·马斯克的社交媒体账号诈骗7000万韩元(约合36万元人民币)。
进入到2024年，AI技术越来越成熟，也在更多行业中助力人们降本增效。但随着生成式AI技术的快速发展，也让人们眼见也未必为实。不法分子借助智能AI换脸和拟声技术，融合他人面孔和声音、制造虚假图像和音视频，就可仿冒他人身份，轻松实现远程视频诈骗，给不少人造成很大的经济损失。
AI技术的迅猛发展，其潜在危害也逐渐显现，给人类社会带来了前所未有的挑战。那我们应该怎样应对呢?
冒充马斯克，诈骗7000万韩元
在去年7月17日，受害女子A某在社交软件上被一个自称是埃隆·马斯克的账号添加为好友。为了证明其身份，该账号向A某发送工作照片和身份证件的照片，并详细描述了一系列私人活动，例如“孩子们每周末都会去SpaceX玩”和“乘坐私人直升机前往特斯拉工厂所在的得克萨斯州”等。
而且，该账号还通过视频通话进一步诱导信任。据A某透露，视频中“和马斯克长相非常相像的男性”向她表达爱意，说道：“你好!我爱你，你知道吗?”
据报道，没过多久，该账号就开始对A某说：“我很高兴我的粉丝能通过我成为富翁”，暗示投资能带来财富，并提供了一个银行的账号信息。基于这些信息，去年8月，A某多次向指定账号汇款，累计达到7000万韩元(约合人民币36万)。
在韩国媒体与这个冒充马斯克的账号进行电话沟通，不过对方以“美国现在是清晨，太早了”为理由，提议改用短信方式交流。
最后，为安抚受害者，该账号还发送了一段录音，声称“我是埃隆·马斯克，希望听到这个录音文件后能放心”，但专业人士分析这段录音后确认其由AI合成。
其实不仅在韩国，在我国也出现了不少AI诈骗的现象。近期，香港警方披露了一起震惊全球的“AI换脸”诈骗案，涉案金额高达2亿港元。案件中，受害者参加了一个所谓的“多人视频会议”，但他却未曾料到，除了自己之外，其他所有参会人员都是由AI技术生成的虚假形象。