前几天刷到一条短视频：一个十几岁的少年对着镜头，一口一个「姨姨妈妈」地叫，做饭、唱歌、说成绩。点开评论区，几乎全是中老年女性在留言，「儿子别哭」「孩子加油」。

这些「小海」，都不是真人。

据新京报调查报道，这类用 AI 生成的数字人「小海」，正被批量做成账号，认中老年女性当「姨姨妈妈」，走亲情加卖惨的路线，最后把流量引到商品橱窗。据新京报记者的调查，这些商品的价格往往高于其他电商平台，卖得越多，佣金抽成越高，报道里给出的比例最高到 55%。

事情本身不算新鲜。但围绕它的几种「以为」，几乎每一种都说反了，一条条说。

很多人以为，这是一门 AI 副业

不少教程就是这么卖的。

据新京报调查报道，在一些社交平台上，制作这类数字人的教程被明码标价，从几十元到几百元不等，卖家多称「不用真人出镜、不用拍摄，零基础也能批量制作」。有运营者对记者说，「选对中老年赛道，一天赚两三千算是少的」，还可以做到「不拍摄，不露脸，不剪辑」。

把这段说法翻译一下：这门生意赚的不是 AI 的钱，是老人心疼的钱。据京报网报道，类似的「起号」帖子在社交平台上成批出现，有博主宣称「5 分钟用 AI 批量做中老年情感视频」，还说「一个人运营四五个号没啥问题」。所谓副业，其实是一条把同情心批量换算成销量的流水线。

同样是拿 AI 搞副业，正经做法卖的是效率：文案、表格、PPT，客户花钱买的是省下来的那几个晚上。这条线上的人不靠编故事。

很多人以为，平台关停过一批，就管住了

据新京报调查报道，一年前那批「AI 王建国」被整治后，部分账号确实被关停、相关视频被清空。

但套路没停，它换了张脸。父亲的角色退到后面，儿子「小海」被推到台前，称呼从「姐姐」换成「姨姨妈妈」。据新京报记者的调查，有记者照着教程试了一遍，从生成文案到发布只用了十几分钟，视频很快就有了播放量。据新京报调查报道，平台上搜索「小海」，出现多个使用同一少年形象、剧情高度雷同的账号，IP 分布在辽宁、福建、河北等地，粉丝从 1.2 万到 4.1 万不等。

换一张脸的成本太低，这是这类内容最难缠的地方。

很多人以为，AI 天生就是骗人的

这一条我得说清楚：问题不在技术，在用技术的人。

据新华每日电讯报道，中央网信办已在全国部署开展为期两个月的「清朗·整治短视频虚假人设乱象」专项行动，重点整治的五方面问题里，「利用 AI 等仿冒人物」是明确列出来的一项，办法是加大违规账号和平台的查处力度，性质恶劣的坚决封禁。据央广网报道，今年 9 月中央网信办公布的「清朗·整治 AI 应用乱象」专项行动成果里，通报的典型案例就包括「部分账号打造 AI 数字人进行虚假宣传带货，误导老年人」。

同一批技术，也在往反方向使劲。据中新经纬报道，按《人工智能生成合成内容标识办法》及配套强制性国家标准的要求，就算发布者没主动勾选，平台也有义务对疑似 AI 生成的内容主动识别，并采取添加显著标识、限制传播等措施。

所以我的看法是：这不是「AI 变坏了」，是有人拿现成的工具去干老掉牙的骗术，工具只是把成本压了下来。

很多人以为，我家老人不会上当

这是我最想多说一句的地方。

据新京报调查报道，报道里有一位 79 岁的老人王红梅（化名），独居、不识字，平日里陪她说话的，只有手机里那个叫「小海」的少年。今年 5 月前后，「小海」在视频里邀请「姨姨妈妈」们去山西看杏花、上山摘羊肚菌，老人动了心，悄悄收拾行李买了火车票。

这段读下来，人是会难受的。老人不是分辨不出真假。据京报网报道，有医生说，一部分老人会启动心理防御，拒绝接受真相，哪怕家人告诉他是假的，他还是继续沉迷；一旦发现是假的，又容易羞耻、自责，不好意思说出口。

问题从来不是老人笨。是那个位置本来该有人陪，然后被一个不用休息、不会烦的 AI 顶上了。

我的判断

说三点。

第一，别用「揭穿」的方式去解决。上来就告诉老人「这是假的、不许看了」，多半没用——把人推开，等于把人推回屏幕里。据京报网报道，有专家建议借鉴反电诈的路子，靠社区宣传和家庭提醒，把识别 AI 内容的办法讲给老人听。据中新经纬报道，识别也不是没抓手：AI 人物的皮肤和光影往往过于平滑、亮度偏高，口型和声音容易对不上，背景里的字幕和文字常出现错字、笔画粘连。这些点，用家常话就能讲明白。

第二，把「钱」这一环卡住，比把内容全删掉更管用。据新京报调查报道，有律师给的分析是这样：运营方虚构身世和亲属关系，让老人在被误导的情况下下单，民事上构成欺诈，老人有权请求撤销合同、要求退款；如果金额达到诈骗罪立案标准，还可能涉嫌刑事犯罪。家里老人手机上的支付权限、大额打赏的门槛，该问的要问一句。

第三，这件事的分量，不只在几个「小海」账号上。据央广网报道，有律师提到，现在面向老年群体的算法定向营销缺少专门约束，「精准推送」一旦被滥用，就容易异化成「精准收割」。我们这边对 AI 滥用是一轮一轮在收口的，方向没问题；要补的是那截短板——把「显著标识」这类要求做得更硬，把涉老内容的审核提到更高一档。

站在我们这一边看，AI 让普通人做出了以前做不出来的东西，这件事我是认的。但也正因为门槛降下来了，才更得有人守住那条线：工具可以替人干活，不能替人去骗人。