当“儿子”是代码：一场针对情感空白的精准围猎
在短视频平台的算法推荐流里，一个名叫“小海”的男孩反复出现。他面容清秀，眼神忧郁，对着镜头哭诉单亲家庭的艰辛，最后总以一声软糯的“姨姨妈妈”收尾。对于屏幕另一端不少缺乏陪伴、情感空虚的中老年人而言，这个并不存在的“苦命男孩”成了他们倾注同情与金钱的对象。
据央视报道及抖音黑板报通报，近期一批利用AI技术生成的“小海”形象账号在平台批量涌现，通过虚构悲惨身世进行带货。这些账号的评论区中，许多用户晒出下单截图，留言称“儿子别哭”、“孩子加油”，将虚构的AI形象视为真实的亲人。直到10月下旬，随着媒体报道曝光及平台专项清理行动启动，这一灰色产业链才受到大规模处置。
2万余账号被处置，但“小海”并未绝迹
抖音黑板报于近日发布的通报显示，在10月1日至10月22日期间，平台开展的“清朗·整治短视频虚假人设乱象”专项行动累计处置违规账号2万余个，清理违规视频4.7万余条。通报中特别点名了案例三：有矩阵账号利用“小海”AI形象进行卖惨带货，经核查，相关人物系AI合成数字人，相关账号及内容已被依规处置。
然而，治理的效果并非一蹴而就。记者注意到，尽管部分头部“小海”账号如“海海会努力”等已被封禁、改名或删除视频，但仍有其他账号在更新同类内容。这种“打地鼠”式的治理困境，折射出AI生成内容在识别与拦截上的技术滞后性。素材中未披露这些违规账号在封禁前累计获得的GMV（商品交易总额）或佣金收入规模，也未披露相关商家的退货率与客诉率具体数据，这一数字的成色尚待独立验证，无法单纯从处置账号数量判断其实际造成的经济损失规模。
低成本复制与高溢价收割
据媒体报道，这些“AI小海”账号背后的运营逻辑清晰且冷酷。运营者利用AI换脸与数字人生成技术，批量搭建账号，内容模板化程度高。据公开信息，部分运营者称“选对中老年赛道，一天赚两三千算是少的”。这些账号带货的商品价格往往高于其他电商平台，利用的是中老年群体对“苦情”叙事的同情心以及对价格敏感度相对较低的特点，展开精准收割。
更令人担忧的是信任机制的失效。记者检索发现，部分“小海”视频左下角确实标着“内容由 AI 生成”，但对不熟悉AI技术，甚至不识字的老人来说，这行小字的提示作用有限。即便有网友发布“小海”承认是AI的视频加以提醒，仍有老人将其视为新的剧情内容。这种信息不对称，使得技术标识未能有效履行告知义务，反而成为运营者规避法律责任的遮羞布。
此类现象并非孤例。从之前的“AI王建国”到如今的“AI小海”，脸换了，套路没换。这反映出在老龄化社会中，情感陪伴缺失与数字鸿沟叠加，使得特定群体成为算法营销的易感人群。目前，关于背后MCN机构的具体身份、技术供应商（如HeyGen、D-ID或国内厂商）的单账号搭建与运营成本，以及投流成本与最终带货利润的比例，公开素材中均无确切数据，产业链的具体利润结构仍是黑箱。
治理的边界与下一步
抖音的通报强调将持续打击虚假人设、恶意摆拍等违规行为，并畅通用户举报渠道。然而，平台治理面临的核心挑战在于：如何在保护创作自由与打击虚假内容之间找到平衡，以及如何在技术层面实现对AI生成内容的实时、准确识别。对比快手、视频号同期对同类AI数字人违规账号的处置数量与封禁周期，缺乏公开的同口径数据，因此无法直接比较各平台治理效率的差异。
对于受影响的中老年用户而言，追回损失、心理疏导等后续支持措施在现有通报中未见提及。这一群体在遭遇情感诈骗后，往往因羞耻感或认知偏差而不敢声张，其实际处境与恢复进展缺乏公开跟踪。
未来真正需要跟踪的指标并非仅仅是处置账号的数量，而是平台是否公开披露AI生成内容的识别拦截率与误判率，以及监管部门是否出台针对“AI情感营销”的具体合规指引。若后续同类账号复活率持续高位，或出现因AI情感欺诈引发的群体性投诉激增，则说明当前的技术标识与人工审核机制未能有效遏制这一灰色产业，需进一步验证平台治理的实际效能。
- 抖音黑板报：《抖音持续开展“清朗·整治短视频虚假人设乱象”专项行动》
- 央视报道：关于批量“AI小海”卖惨带货的相关调查
- 公开媒体报道：关于“AI小海”运营者收益及用户反应的披露
