丁阳 | 较真主笔
(资料图片仅供参考)
这是腾讯较真的新栏目“较真札记”。在这里,你可以看到本周又有哪些虚假和错误信息迷惑人心,我们也会持续关注与谣言生产和传播相关的新技术、新模式。本期为第三期,第二期详见:怼北京商报?拒绝中国人事总监?为什么马斯克成了中文互联网的嘴替?
AI诈骗的确越来越厉害,但渲染恐慌恐怕没有好处
“AI诈骗成功率接近100%”“AI诈骗正在全国爆发”这是近期微博上的两条热搜,并且被许多媒体在报道中引述,甚至直接就放在标题里。
是不是看上去很可怕?感觉自己的钱随时就要丢,家人随时就会中招?
然而,仔细看相关媒体报道,上述两个说法可谓让人一头雾水。
首先看所谓的“AI诈骗成功率接近100%”,其来历是什么呢?据多家转载媒体,其出处都指向了这句话——“据湖北网警巡查执法5月6日消息,AI技术改变诈骗,新骗局来袭后,诈骗成功率竟接近100%。”听起来很像是执法单位的一手信息,不得不让人相信。
但实际是怎么回事呢?某省“网警巡查执法”在某平台的账号5月6日的确刊发了一篇文章《AI技术改变诈骗,新骗局来袭,诈骗成功率接近100%》,文章介绍了一些诈骗案例和手法,但是,全文并没有任何有关“诈骗成功率接近100%”的表述,只有这么一句——“这样的诈骗手段,小伙伴们能hold住吗?”——看起来有点关联,但这能说成是“诈骗成功率接近100%”吗?
而且,这篇文章没有写明作者,也没有标注原创,进一步检索可以发现,其内容实际上来自“全民防骗局”微信公众号5月4日发布的同名文章的一部分,并揉进了“雁塔反诈”微信公众号2021年一篇题为《骗术升级,AI变声换脸诈骗来了》的文章。但“全民防骗局”那篇文章内文只是感叹“如果事先不知道骗子的这些伎俩,被骗的可能性非常大”,并没有任何统计数字指向“诈骗成功率接近100%”。
再来看所谓的“AI诈骗正在全国爆发”。这一热搜词条在微博已经被删除,但看各路转载,基本也都是杂糅拼凑的内容。其中必有的一条内容是“10分钟被骗430万”,讲述包头市公安局破获的一起使用智能AI技术进行电信诈骗的案件:福州市某科技公司法人代表郭先生10分钟内被骗430万元。除此之外,相关文章有些会配上一些“AI诈骗常用手法”,有些会配上“AI诈骗相关案例”,但提到的也是前几年的案例(有些文章甚至故意隐瞒是旧闻 ),没有任何相关内容能明确描述出AI诈骗是如何“正在全国爆发”的。
比如有一条影响力非常大、传播非常广的短视频,标题就是“AI诈骗正在全国爆发”,但其实只是在解读“10分钟被骗430万”这个案例,并无其他内容。
而且就连这个视频,也有渲染恐慌之嫌——视频里有句话是“首先把你的微信盗了”,但是,如果不乱点来历不明的链接,不泄露账号密码,微信号被盗概率很小。微信号登录时一般需要手机号+验证码,如果是新设备登录,还需要安全验证。而且旧设备上正在使用的微信会收到登录提醒。另据反诈公众号“ 终结诈骗 ”的分析,包头公安破获的这个案子,也根本不涉及盗取微信号。
所以,“AI诈骗成功率接近100%”“AI诈骗正在全国爆发”这两个说法,都是存在很大疑问的。AI诈骗的确很容易把人骗倒,但说“成功率接近100%”肯定是恐吓人;AI诈骗的确有很多案例,但变声、换脸诈骗也都有好几年历史了,并非今年才刚刚出现,也并无数据来支撑当下“正在全国爆发”。
虽然制造这两个说法的人,本身可能是好意,关注诈骗趋势、了解诈骗手法、做好防范准备,也的确很重要,但任由夸大信息造成恐慌,是不妥当的。正如“终结诈骗”那篇文章提到的,“通过制造恐慌的方式,只会降低整个社会的信任感,增加群众内心的恐慌,使得类似针对恐慌心理来做案的‘冒充公检法诈骗’更加有机可乘。这实在是适得其反!”
本周其他值得注意的谣言与不实信息:
“昆明城投专家会议纪要”——5月24日,昆明国资委发布声明称,“近日,关注到部分微信群和网络媒体出现了题为‘昆明银行口专家路演要点’和《昆明城投专家会议纪要》的不实信息传播,给昆明市国有企业和有关方面造成不良影响,为此已经采取法律手段依法维护自身合法权益。”这个所谓的不实信息,据民生银行昆明分行声明,系该行员工“马某某以个人名义参加海通证券外部会议,并在会上发表不实言论。”
“五角大楼附近爆炸”——美国时间周一(22日)上午开始,一张明显是AI生成的显示五角大楼附近地区发生爆炸的图片在社交网络上疯传,尽管美国国防部发言人已经证实图片是假的,但依然无法阻挡其传播。这则消息一度导致标普500指数明显走低,由涨转跌。据媒体分析称,图片上具有一些AI生成图像的一些特征:例如图中的灯柱有些不对称,以及一根围栏被画在了人行道上。
“新式裁员:深圳一副总带60人跳槽后玩失踪”——近日有传闻称,“深圳市天华建筑设计有限公司某团队高层领导带领约60人团队集体跳槽某房企,最后团队成员大部分同意跳槽。但在团队成员集体辞职之后,该领导却不出面,上述团队集体被迫辞职失业,而深圳天华则实现了零成本裁员。”5月23日晚间,当事公司发布声明,“经调查核实,传言中所谓“变相裁员”“裁员新套路”“总部领导层搞出来的游戏”“团体被迫离职、纷纷失业”等言论与事实严重不符,系恶意揣测及诋毁”。