“没有父母,被同学欺负,吃不上饭……”央视曝光苦命男孩骗局,屏幕后面的这群人,太让人心疼
作者:今夕何夕
来源:读者(ID:duzheweixin)
近期,央视曝光一起网络诈骗案例。
视频里,一个十几岁的男孩“小海”,声音稚嫩,模样清秀。
他会拿着一个馒头,委屈地讲述自己的生活;也会眼含泪水,向屏幕前的“姨姨妈妈”诉说难处;他还会高兴地分享自己的成绩,像一个急着向长辈报喜的孩子……
不少老人被他打动。
有人在评论区鼓励他好好读书,有人叮嘱他按时吃饭,还有人心疼他的遭遇,买下他推荐的商品,希望能帮这个孩子一把。
然而,央视调查揭开的真相,却让人大跌眼镜。
这个被许多老人牵挂的“小海”,根本不存在。
他的面孔、声音、身世,甚至那些看似真切的眼泪,都是由人工智能生成。
在屏幕背后,一些账号运营者通过编造苦难、博取同情、商品带货等方式,将老年人的善意变成了一门生意。
新闻曝光后,舆论一片哗然。
有网友愤怒地质问:“拿老人的善良当生意做,这些人良心不会痛吗?”
也有人担忧:“现在AI连哭都能演得这么真,以后还能相信什么?”
还有人不解:“一看就是假的,怎么还会有人信?”
但在这些讨论之外,我更想聊聊“小海”背后的另一群人。
那些愿意为陌生孩子花钱、留言、牵挂的老人。
这场看似荒诞的AI骗局背后,或许藏着一个我们长期忽略的问题。
如果不是央视曝光,“小海”还会继续出现在老人们的生活里。
在视频中,他有着不同的生活经历,却始终保持着相似的形象:
家境贫寒、懂事孝顺、努力上进。
然而,这些看似令人心疼的故事,实际上是为了吸引关注、积累信任,最终实现带货变现。
当老人们逐渐熟悉这个常常喊着“姨姨妈妈”的孩子,商品链接也悄然出现在视频中。
“小海”会说自己正在参加带货比赛,只差几单就能完成任务,希望大家帮帮忙。
于是,原本出于同情的关心,慢慢变成了实际的消费。
央视调查发现,网络上存在大量类似“小海”的账号。
相似的面孔、相似的声音、相似的苦情故事,背后却可能是不同的运营者。
只需要借助AI工具,便能生成一个会说话、会流泪、会表达情感的虚拟人物。甚至有人公开售卖相关制作教程,教人如何生成数字人、编写文案、运营账号。
一个原本需要演员、拍摄和剪辑才能完成的故事,如今只需借助软件,便可以不断复制。
今天是“小海”,明天可能是另一个名字。
今天讲述家庭困难,明天又换成求学艰辛。
“小海”并不是孤例。
此前,网络上还出现过被称为“AI王建国”的虚拟人物,以成熟、体贴的形象吸引中老年女性关注。
有的虚拟人物扮演温柔的伴侣,有的扮演懂事的晚辈,还有的以所谓专业人士的身份出现,推销各类商品。
人物不同,故事不同,背后的逻辑却大同小异:先用情感建立信任,再将信任转化为消费。
技术让人与人之间的距离越来越近,也可能让别有用心的人有机可乘。
当然,人工智能本身并没有错,它可以帮助人们学习、工作,也可以让许多过去难以实现的想法成为现实。
但值得警惕的,是有人借助技术的便利,降低了欺骗的成本。
在关于“小海”的报道中,一位79岁的老人令人印象深刻。
今年5月,乌鲁木齐铁路公安的乘警在巡视车厢时,发现一位独自出行的老人。老人不识字,也说不清要去的具体地方。
她只知道,自己要去山西运城,找一个叫“小海”的孩子。
乘警询问后才知道,老人是在手机上认识他的。视频里,“小海”不仅讲述自己的生活,而且邀请长辈们去山西看杏花、采羊肚菌。
老人相信了。
她没有告诉家人,独自踏上了旅程。
从新疆到山西,路途遥远。一个79岁的老人,愿意为一个从未谋面的孩子走这么远,实在让人难以理解。
乘警告诉她,“小海”只是AI生成的虚拟人物,并不真实存在。
老人不相信。
一个自己看过那么多次、听过那么多次声音的孩子,怎么会是假的呢?
好在乘警耐心劝说和帮助,老人最后平安回到了家人身边。
乘警进行劝阻
今年3月,极目新闻还报道了一位84岁老人的经历。
湖北老人张玉兰迷上了一个叫“建国”的男人。
春节前,她亲手写下一封500字的情书,开头是:“建国,春节快乐!先给你赔礼道歉……”
在信里,她认真地表达歉意,倾诉自己的感情。她甚至想过,要嫁给这个男人。
但“建国”并不是真实存在的人,而是一个穿着西装、梳着背头、总爱亲切地称呼她为“姐姐”的AI数字人。
老人的孙女说,几个月里,奶奶每天花近10个小时观看相关视频,还购买了不少价格虚高的商品,累计花费七八千元。
家人反复解释,她也曾短暂意识到问题,却很快再次沉迷。
其实,在“小海”事件曝光后,一些网友试图用另一种方式唤醒老人。
他们利用AI技术制作出“黑化版小海”:
视频里的“小海”不再乖巧懂事,而是穿着囚服,站在铁栏后承认错误;有时甚至亲口说出,自己就是一个骗子。
没想到,评论区里依然有许多人替“小海”说话。
“小海,姨姨妈妈相信你,你肯定是有苦衷的,是不是有人威胁你了。”
不禁令人深思:
为什么一个从未存在过的人,能够让他们如此牵挂?
当屏幕里的问候、关心,甚至亲密关系都可以被技术制造,我们又该如何理解这些老人投入的真实感情?
“小海”事件让人们再次关注老年人的数字困境。
这些年,随着智能手机逐渐普及,越来越多的老人学会了上网。他们会看新闻、刷短视频、和家人视频通话,也会在网上购买生活用品。
可是,当他们终于学会使用这些工具时,新的难题又出现了。
他们能够看见屏幕里的世界,却未必能够辨认它们的真假。
尤其是人工智能快速发展的今天。
一张照片可以被修改,一段声音可以被模仿,一个从未存在过的人,也可以拥有真实的面孔和生动的表情。
对于熟悉互联网的年轻人来说,这些变化尚且需要不断学习,更何况那些不是在互联网时代出生长大的老人?
不过,如果仅仅把问题归结为老年人缺乏技术知识,恐怕还不够。
为什么“小海”偏偏能够打动那么多人?为什么那些简单的问候、重复的故事,能够让老人产生如此深厚的感情?
图/摄图网
不妨看看我们周围老年人真实的生活处境。
有些老人退休以后,渐渐离开了熟悉的工作环境。曾经每天见面的同事,慢慢失去联系;儿女长大,有了自己的家庭和事业;朋友们也各自忙碌,很难经常见面。
生活依然平稳,日子也照常向前。只是能够说话的人,可能越来越少了。
手机里的“小海”,恰好提供了这样一种情绪价值。
他每天出现,主动问候,分享自己的生活。当他说自己遇到困难时,老人还可以像照顾晚辈一样,给予安慰和帮助。
在这样的互动中,老人不只是接受关心的人,也重新成为一个能够关心别人的人。人到了晚年,或许不仅希望被人照顾,也希望自己仍然被需要。
当然,一些人只是缺乏辨别AI内容的经验,一些人则是出于单纯的同情。
我们不能用一个故事,解释所有老年人的生活。
但“小海”事件至少提醒我们,在技术风险之外,还有一些更深层的情感需求,值得被认真对待。
因为,这些需求正在被一些商家当成赚钱的机会。
他们研究老人喜欢听什么,愿意相信什么,容易为什么样的故事动情,然后编写文案,设计人物,制造一段又一段看似温暖的关系。
因此,面对“小海”这样的乱象,治理不能只停留在提醒老人提高警惕上。
平台首先应当承担起内容审核的责任。
对于大量使用虚拟人物、反复编造苦情故事、以亲密关系诱导消费的账号,应当加强事前识别和审核,而不是等到媒体曝光、老人受骗之后才集中处理。
尤其对于老年用户而言,仅仅在画面角落标注几个“AI生成”的小字,未必足以让他们理解其中的含义。平台可以探索更加清晰的语音提示、醒目的身份标识,以及针对高风险营销内容的特别提醒。
内容创作者应当守住基本的道德底线。
利用AI创作虚拟故事,本身并没有问题。但不能故意将虚构包装成真实,更不能借助他人的同情心牟利。
技术让表达变得容易,却不意味着创作者可以不对表达的后果负责。
与此同时,相关部门也需要进一步完善监管和维权机制,让老年人遇到消费欺诈时,有更加便利的求助渠道。
图/摄图网
“小海”事件,会随着热度消退,新的技术、新的话题还将不断涌现。但那些曾经把真心交给虚拟人物的老人,依然生活在我们身边。
诚然,更加完善的平台监管、更有温度的适老化服务,能让老年人在数字世界里少一些风险、多一份安心。
但更重要的,是让他们在现实生活中拥有真实而稳定的情感联结。
一个电话,一次探望,一场耐心的交谈,都可能让他们感受到自己仍然被牵挂、被需要。
每个人都会老去。
今天熟练使用各种智能工具的我们,终有一天,也可能面对一个陌生而复杂的新世界。
那时,我们希望得到的,不是对迟钝的嘲笑,而是理解、尊重与耐心。
一个时代真正的温度,不只在于技术走得有多快,也在于是否始终有人愿意等一等那些走得慢一些的人。
愿技术不断向前,也愿每一个老去的人,都能被这个时代温柔以待。
参考资料:
红星新闻 | 央视曝光批量“AI小海”卖惨带货收割“姨姨妈妈”,抖音通报:有矩阵账号利用“小海”AI形象进行卖惨带货,已被依规处置
大象新闻 | 批量“AI小海”卖惨博同情,带货收割“姨姨妈妈”
奔流新闻 | 84岁奶奶每天刷10小时视频,给AI霸总写情书,消费近万元还要嫁给他
作者:今夕何夕,首发于“读者”公众号。
宠粉活动来袭
《青年文摘》特别福利:“买一送一”,限时加赠!点击下方图片,2027年杂志新刊限量优惠进行中~
点击下方名片关注
右上角“...”点选“设为星标”
加★标,第一时间接收推送~
文章原文
内容来自 青年文摘,版权归原作者所有。
阅读原文 ↗