“没有父母,被同学欺负,吃不上饭……”央视曝光苦命男孩骗局,屏幕后面的这群人,太让人心疼

作者:今夕何夕

来源:读者(ID:duzheweixin)


近期,央视曝光一起网络诈骗案例。


视频里,一个十几岁的男孩“小海”,声音稚嫩,模样清秀。


他会拿着一个馒头,委屈地讲述自己的生活;也会眼含泪水,向屏幕前的“姨姨妈妈”诉说难处;他还会高兴地分享自己的成绩,像一个急着向长辈报喜的孩子……


不少老人被他打动。


有人在评论区鼓励他好好读书,有人叮嘱他按时吃饭,还有人心疼他的遭遇,买下他推荐的商品,希望能帮这个孩子一把。



然而,央视调查揭开的真相,却让人大跌眼镜。


这个被许多老人牵挂的“小海”,根本不存在。


他的面孔、声音、身世,甚至那些看似真切的眼泪,都是由人工智能生成。


在屏幕背后,一些账号运营者通过编造苦难、博取同情、商品带货等方式,将老年人的善意变成了一门生意。


新闻曝光后,舆论一片哗然。


有网友愤怒地质问:“拿老人的善良当生意做,这些人良心不会痛吗?”


也有人担忧:“现在AI连哭都能演得这么真,以后还能相信什么?”


还有人不解:“一看就是假的,怎么还会有人信?”


但在这些讨论之外,我更想聊聊“小海”背后的另一群人。


那些愿意为陌生孩子花钱、留言、牵挂的老人。


这场看似荒诞的AI骗局背后,或许藏着一个我们长期忽略的问题。




如果不是央视曝光,“小海”还会继续出现在老人们的生活里。


在视频中,他有着不同的生活经历,却始终保持着相似的形象:


家境贫寒、懂事孝顺、努力上进。


然而,这些看似令人心疼的故事,实际上是为了吸引关注、积累信任,最终实现带货变现。


当老人们逐渐熟悉这个常常喊着“姨姨妈妈”的孩子,商品链接也悄然出现在视频中。


“小海”会说自己正在参加带货比赛,只差几单就能完成任务,希望大家帮帮忙。


于是,原本出于同情的关心,慢慢变成了实际的消费。



央视调查发现,网络上存在大量类似“小海”的账号。


相似的面孔、相似的声音、相似的苦情故事,背后却可能是不同的运营者。


只需要借助AI工具,便能生成一个会说话、会流泪、会表达情感的虚拟人物。甚至有人公开售卖相关制作教程,教人如何生成数字人、编写文案、运营账号。


一个原本需要演员、拍摄和剪辑才能完成的故事,如今只需借助软件,便可以不断复制。


今天是“小海”,明天可能是另一个名字。


今天讲述家庭困难,明天又换成求学艰辛。


“小海”并不是孤例。


此前,网络上还出现过被称为“AI王建国”的虚拟人物,以成熟、体贴的形象吸引中老年女性关注。


有的虚拟人物扮演温柔的伴侣,有的扮演懂事的晚辈,还有的以所谓专业人士的身份出现,推销各类商品。


人物不同,故事不同,背后的逻辑却大同小异:先用情感建立信任,再将信任转化为消费。


技术让人与人之间的距离越来越近,也可能让别有用心的人有机可乘。


当然,人工智能本身并没有错,它可以帮助人们学习、工作,也可以让许多过去难以实现的想法成为现实。


但值得警惕的,是有人借助技术的便利,降低了欺骗的成本。




在关于“小海”的报道中,一位79岁的老人令人印象深刻。


今年5月,乌鲁木齐铁路公安的乘警在巡视车厢时,发现一位独自出行的老人。老人不识字,也说不清要去的具体地方。


她只知道,自己要去山西运城,找一个叫“小海”的孩子。


乘警询问后才知道,老人是在手机上认识他的。视频里,“小海”不仅讲述自己的生活,而且邀请长辈们去山西看杏花、采羊肚菌。


老人相信了。


她没有告诉家人,独自踏上了旅程。


从新疆到山西,路途遥远。一个79岁的老人,愿意为一个从未谋面的孩子走这么远,实在让人难以理解。


乘警告诉她,“小海”只是AI生成的虚拟人物,并不真实存在。


老人不相信。


一个自己看过那么多次、听过那么多次声音的孩子,怎么会是假的呢?


好在乘警耐心劝说和帮助,老人最后平安回到了家人身边。


乘警进行劝阻


今年3月,极目新闻还报道了一位84岁老人的经历。


湖北老人张玉兰迷上了一个叫“建国”的男人。


春节前,她亲手写下一封500字的情书,开头是:“建国,春节快乐!先给你赔礼道歉……”


在信里,她认真地表达歉意,倾诉自己的感情。她甚至想过,要嫁给这个男人。


但“建国”并不是真实存在的人,而是一个穿着西装、梳着背头、总爱亲切地称呼她为“姐姐”的AI数字人。


老人的孙女说,几个月里,奶奶每天花近10个小时观看相关视频,还购买了不少价格虚高的商品,累计花费七八千元。


家人反复解释,她也曾短暂意识到问题,却很快再次沉迷。


其实,在“小海”事件曝光后,一些网友试图用另一种方式唤醒老人。


他们利用AI技术制作出“黑化版小海”:


视频里的“小海”不再乖巧懂事,而是穿着囚服,站在铁栏后承认错误;有时甚至亲口说出,自己就是一个骗子。



没想到,评论区里依然有许多人替“小海”说话。


“小海,姨姨妈妈相信你,你肯定是有苦衷的,是不是有人威胁你了。”


不禁令人深思:


为什么一个从未存在过的人,能够让他们如此牵挂?


当屏幕里的问候、关心,甚至亲密关系都可以被技术制造,我们又该如何理解这些老人投入的真实感情?




“小海”事件让人们再次关注老年人的数字困境。


这些年,随着智能手机逐渐普及,越来越多的老人学会了上网。他们会看新闻、刷短视频、和家人视频通话,也会在网上购买生活用品。


可是,当他们终于学会使用这些工具时,新的难题又出现了。


他们能够看见屏幕里的世界,却未必能够辨认它们的真假。


尤其是人工智能快速发展的今天。


一张照片可以被修改,一段声音可以被模仿,一个从未存在过的人,也可以拥有真实的面孔和生动的表情。


对于熟悉互联网的年轻人来说,这些变化尚且需要不断学习,更何况那些不是在互联网时代出生长大的老人?


不过,如果仅仅把问题归结为老年人缺乏技术知识,恐怕还不够。


为什么“小海”偏偏能够打动那么多人?为什么那些简单的问候、重复的故事,能够让老人产生如此深厚的感情?


图/摄图网


不妨看看我们周围老年人真实的生活处境。


有些老人退休以后,渐渐离开了熟悉的工作环境。曾经每天见面的同事,慢慢失去联系;儿女长大,有了自己的家庭和事业;朋友们也各自忙碌,很难经常见面。


生活依然平稳,日子也照常向前。只是能够说话的人,可能越来越少了。


手机里的“小海”,恰好提供了这样一种情绪价值。


他每天出现,主动问候,分享自己的生活。当他说自己遇到困难时,老人还可以像照顾晚辈一样,给予安慰和帮助。


在这样的互动中,老人不只是接受关心的人,也重新成为一个能够关心别人的人。人到了晚年,或许不仅希望被人照顾,也希望自己仍然被需要。


当然,一些人只是缺乏辨别AI内容的经验,一些人则是出于单纯的同情。


我们不能用一个故事,解释所有老年人的生活。


但“小海”事件至少提醒我们,在技术风险之外,还有一些更深层的情感需求,值得被认真对待。


因为,这些需求正在被一些商家当成赚钱的机会。


他们研究老人喜欢听什么,愿意相信什么,容易为什么样的故事动情,然后编写文案,设计人物,制造一段又一段看似温暖的关系。


因此,面对“小海”这样的乱象,治理不能只停留在提醒老人提高警惕上。


平台首先应当承担起内容审核的责任。


对于大量使用虚拟人物、反复编造苦情故事、以亲密关系诱导消费的账号,应当加强事前识别和审核,而不是等到媒体曝光、老人受骗之后才集中处理。


尤其对于老年用户而言,仅仅在画面角落标注几个“AI生成”的小字,未必足以让他们理解其中的含义。平台可以探索更加清晰的语音提示、醒目的身份标识,以及针对高风险营销内容的特别提醒。


内容创作者应当守住基本的道德底线。


利用AI创作虚拟故事,本身并没有问题。但不能故意将虚构包装成真实,更不能借助他人的同情心牟利。


技术让表达变得容易,却不意味着创作者可以不对表达的后果负责。


与此同时,相关部门也需要进一步完善监管和维权机制,让老年人遇到消费欺诈时,有更加便利的求助渠道。


图/摄图网




“小海”事件,会随着热度消退,新的技术、新的话题还将不断涌现。但那些曾经把真心交给虚拟人物的老人,依然生活在我们身边。


诚然,更加完善的平台监管、更有温度的适老化服务,能让老年人在数字世界里少一些风险、多一份安心。


但更重要的,是让他们在现实生活中拥有真实而稳定的情感联结。


一个电话,一次探望,一场耐心的交谈,都可能让他们感受到自己仍然被牵挂、被需要。


每个人都会老去。


今天熟练使用各种智能工具的我们,终有一天,也可能面对一个陌生而复杂的新世界。


那时,我们希望得到的,不是对迟钝的嘲笑,而是理解、尊重与耐心。


一个时代真正的温度,不只在于技术走得有多快,也在于是否始终有人愿意等一等那些走得慢一些的人。


愿技术不断向前,也愿每一个老去的人,都能被这个时代温柔以待。


参考资料:

红星新闻 | 央视曝光批量“AI小海”卖惨带货收割“姨姨妈妈”,抖音通报:有矩阵账号利用“小海”AI形象进行卖惨带货,已被依规处置

大象新闻 | 批量“AI小海”卖惨博同情,带货收割“姨姨妈妈”

奔流新闻 | 84岁奶奶每天刷10小时视频,给AI霸总写情书,消费近万元还要嫁给他



作者:今夕何夕,首发于“读者”公众号。


宠粉活动来袭


《青年文摘》特别福利:“买一送一”,限时加赠!点击下方图片,2027年杂志新刊限量优惠进行中~



▽ 点击阅读热门文章 ▽

图片  点击下方名片关注  图片

右上角“...”点选“设为星标”

加★标,第一时间接收推送~


文章原文

内容来自 青年文摘,版权归原作者所有。

阅读原文 ↗

用 HomepageTab 新标签页关注 RSS,打开浏览器就能看到更新。

安装 HomepageTab