随着AI技术的迅猛发展，直播领域也掀起了AI应用的热潮。然而，这股风潮并非全然正面，一系列乱象随之涌现。其中，“AI美女”批量打造，利用AI技术吸粉带货；卖课、分销等灰产也层出不穷。针对这些乱象，平台已开始出手整治，维护直播行业的健康发展。

AI风口吹到了直播，先吃到红利的不只有卖课的知识付费博主，还有“AI主播”

她们或是外国美女，借助吸引眼球的形象和话题吸粉，然后带货；或是单身女性，输出“心灵鸡汤”，目的要么是带货，要么是吸引男粉转化为付费用户…..

这些“AI主播”、“AI美女”，正通过AI技术而被批量化、模板化复制。

不仅如此，围绕这个产业链，还出现了如卖课、分销等乱象。如今，针对这些乱象，平台已经开始出手整治。

一、抖音出手整治AI虚拟人

近日，“抖音安全中心”官微发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。

针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。

有关AI生成虚拟人物的违规行为，改公告列出了几个类型，主要包括利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容。

抖音此番出手，让人想到此前爆火的“俄罗斯美女”——娜塔莎。

这是账号“娜塔莎进口食品”塑造的一个俄罗斯美女，说自己在中国生活了8年、热爱中国文化、要嫁给中国男人，在吸粉之后，通过带货俄罗斯的相关产品进行变现，其粉丝量一度达到了20多万。

“美女人设+精准话题吸粉+带货变现”的路径，看起来似乎没有问题。然而，该账号之后被曝出其塑造的“俄罗斯美女”形象是通过AI换脸生成，且没有经过授权使用了乌克兰博主、YouTube网红“Olga Loiek”的面容和声音。

如今，该账号已经遭到封禁。

二、被批量打造的“AI美女”

实际上，如今抖音上的AI主播并不少见，尤其是“AI美女”。

研究了这些账号之后，我们发现这些“AI美女”，要么是直接生成虚拟人设，打造单身成熟女性的人设，甚至还有“单身妈妈”、“离婚女性”等，比如“小姨妹”、“梨过，你要么”。

这些账号可以说是批量生成的，模板化、套路化非常明显。

另一种类型则是通过真人主播自身的形象，生成与她形象较为相符的虚拟形象，如“巧克力，小柠檬”。这是一位娱乐主播，目前拥有1000多万粉丝。

其通过AI生成个人的虚拟形象，主要用于短视频，内容是情感类“鸡汤”。如“欺骗一个对你掏心掏肺的男人”、“经常流泪的男人是什么性格呢”等内容，从而达到吸粉、导流的目的。这类内容看起来十分粗糙，而且口型和画面对不上，很明显是通过AI生成的。

可以看到，这两种类型的账号的目标群体都瞄准了男性。

其中，前者会在短视频挂载小黄车，通过带货进行变现，产品也以日常用品和男士用品为主，譬如抖音平台上有50.5万粉丝的AI主播“陈佳丽”，其橱窗商品价格从几元到几十元不等，部分产品销量可达上百万。

后者则主要通过短视频进行吸粉，然后靠直播打赏进行变现。从短视频内容来看，也是精准面向男性，无论是主播的形象和短视频话题都是投其所好。

除了抖音，小红书也同样有一批以AI美女为主角的博主。

这类博主塑造了类似“旅游博主”、“街拍模特”的人设，发布的内容也几乎一致，基本都是都是发布AI生成的美照。比如以街拍为主要内容的博主“cyberAngel”、“往之”，粉丝数量均已突破一万。目前，尚未发现明显的变现渠道，最常见的方式是建群引流。

三、“AI直播”催生的乱象

除了这类批量打造的“AI美女”之外，如今AI的火热风口还催生了卖课、AI代理分销等乱象。

据媒体报道，有商家出售所谓的AI换脸课程，售价29.9元，素材包包含几千张明星照片；还有商家将骗术当做技术出售，还提供人脸定制，定制价格在2000元到上万元不等。

而围绕AI课程的产业链，还形成了分销的灰产。315期间，就有媒体曝光了有关“数字人源头厂商”和“数字人代理”的骗局。

有不法商家利用“数字人产业是时代风口”作为噱头，对外售卖高达十几万元的AI代理服务，宣称“只要付钱成为代理，就能将数字人技术层层分销给下级买家，不需要任何资质审核，还能自己随意定价，零基础小白也能参与，闭着眼睛就能年入百万。”

然而，“AI换脸”不仅涉嫌侵权，而且还因为直播效果不佳、台词重复、表现生硬等，导致直播间频繁被封。

如今，随着平台监管力度的加大，这样的乱象正在进一步遭到整治。新播场在抖音搜索“AI主播课程、“AI直播课程”等关键词，已经搜不到相关卖课内容。

可以看到，风口之下，AI在直播领域的应用催生了不少乱象。实际上，如果能够更好地利用AI技术，不仅能够减少成本，还能为直播带来新的想象空间。

有业内人士表示，从目前来看，AI主播目前的应用还是存在较多问题和挑战，更多是应用于不需要依赖内容输出的场景，比如本地生活赛道的团购直播；或者作为真人主播的“替身”，在无法开播的时间段运作。

四、押注AI直播，前景如何？

实际上，AI直播带货早已经不是什么新鲜事了。

2023年，随着AI技术的逐步成熟，头部直播公司开始大举入局AI直播带货，谦寻就是其中之一。

据报道，谦寻控股很早就已经在AI领域开始布局，旗下的两家子公司谦语智能和羚客就是专门用来研发AI直播带货。

2023年8月9日，在“再定义・直播的生命力-2023AI创新发布会”上，谦寻旗下的谦语智能和羚客分别发布了“AI数字人直播业务”和“一站式AI智能直播综合平台”，其中多个AI数字人都有薇娅的身影。

而不久前，宣布淡出直播电商的头部带货主播辛巴，也称未来两年将去学习AI技术。

头部机构和主播押注AI，正是看到了AI技术与直播结合带来的新想象力。

与此同时，面对广阔的海外市场，AI主播也有更大的发展空间。

如今许多AI研发商都在着力完善相关产品，闪剪智能举办的2024 BocaLive AI数字人智能播控系统在3月21日举行了线上发布会，新上线的AI能够直接帮助商家自动写好外语直播脚本，支持29国语言和丰富的AI配音。

AI主播具有庞大的语言库，可以进行数十种语言的翻译，商家把中文的商品介绍或者直播脚本输入进去，就可以自动转换成英语、法语、德语等多种语言。

据《中国AI数字人市场现状与机会分析,2022》预测，到2026年，我国AI数字人的市场规模将达到102.4亿元。

AI数字人的前景广阔，但是未来会与直播融合到怎样的程度，一切都是未知数。

作者：场妹 微信公众号：新播场

本文由 @新播场 授权发布于运营派。未经许可，禁止转载。

题图来自Unsplash，基于 CC0 协议