随着人工智能技术的普及，人工智能生成内容技术也就是AIGC技术正在改变社交媒体生态。有了创意，它能帮你生成文字；有了文字，它还能接着生成图片，进而做出视频。但是，本来是帮助提升创作效率的工具，却被一些人拿来造假起号，通过AI批量生产虚假内容来积累粉丝。
记者调查发现，目前多个社交平台上都出现大量“AI起号秘籍”相关内容，这些AI生成内容多以俊男靓女、育儿百科、健康养生为主，大都低俗猎奇。有些AI生成的人物形象能做到以假乱真，还有人传授绕过平台“AI打标”的经验。
一旦起号成功，这些账号就会隐藏AI引流内容，开始带货、卖课。有的账号还被明码标价放到账号交易网站上，形成了一条“起号、转型、转卖”的灰色产业链。在这背后有哪些不容忽视的隐患？
一张外国面孔，用流利的中国话科普育儿知识，这样的视频你会多看两眼吗？某育儿短视频账号上，大量类似内容打着“外国幼儿教育专家”旗号输出观点。但是这看似专业的视频里有不少说法都极端绝对，暗藏误导风险。
实际上，这些所谓“外国专家”是AI生成的虚拟形象。在一堂AI数字人视频教学课程中，这个育儿账号是导师口中的成功起号案例：
导师：我们就是做的这种展现的形式，一个人物是AI数字人、虚拟人，不是真人，但是很像真人。不仅嘴动头动，身体也在动。这个账号，我们团队的小伙伴已经做到了39万粉丝，卖货21万的战绩。
打造一个优质自媒体账号并非易事，从创意到文案脚本再到拍摄制作，每一个作品都需要创作者亲力亲为，通常会耗费大量时间。
现在，各大社交平台上出现了大量“AI起号”相关分享，宣称零门槛、易操作、涨粉快、可变现。
记者调查发现，这些起号教程教授的思路基本一致：仅需借助两三个AI工具，按“文生图、图生图、图生视频”的标准化流程，几分钟就能制作一段时长五秒的美女跳舞视频，这些视频中虚拟人动作虽然略有僵硬，但形象逼真。一位从业者表示，他的课程499元，内容包含从账号搭建、视频制作到内容变现的全流程一对一辅导。
一位主打“颜值博主人设”的博主告诉记者，自己选用了一张相貌平平的男生照片，AI工具在此基础上生成了一张高颜值男生照片。对比前后照片，人物脸型发型、五官比例、皮肤质感都有了较大改变，衣着和环境也有一些改变，但记者在该内容评论区观察发现，多数网友并未察觉这是AI生成的虚拟形象。
目前，各平台已普遍升级AI内容识别系统，要求对AI生成作品进行显著标注，这位博主告诉记者，自己花了900元学费学习AI起号技术，主要就是为了购买老师在AI工具中预配置的镜像文件——用这些镜像参数一键生成的虚拟人形象可以以假乱真，最大限度规避平台的AI内容强制标注机制。
记者发现，如今不少AI虚拟人创作者为避免作品被平台限流，会在发布时主动标注内容由AI生成。但各平台也有一部分未主动标注的作品没有被系统识别出来。有从业者坦言，随着各平台监测升级，“不标注等于高风险”：
从业者：保证不被系统检测出就是没法保证，我们只是说通过自己的一些维度的东西去减少被系统评为AI作品。因为目前来讲人物视频动起来的话，就是它篇幅(幅度)不能太大了，一大的话就很容易出现问题。假如突然哪一天被系统识别出来，让你人脸识别，你识别不出来怎么办，你这号不是废了吗？
记者调查了解到，AI账号起号成功后大都会隐藏此前引流内容，改头换面成为带货账号；有的顺势打出“AI起号实战”噱头，将自身包装成“成功案例”售卖起号课程；还有一部分账号被明码标价进行售卖。
实际上，在AI的加持下，起号的成本和门槛被降低，大量此类账号进入了账号交易市场。某账号交易网站客服告诉记者，他们网站有不少可供选择的AI起号账号，价格相对于其他类型账号更加便宜。
实际上，多数社交平台明确禁止账号转卖。以记者在网站上咨询的抖音账号为例，抖音平台在其服务协议和相关规则中就规定，抖音账号仅限本人使用，禁止以任何形式赠予、借用、出租、转让、售卖或以其他方式许可他人使用该账号。
对此，中国政法大学传播法研究中心副主任朱巍表示：转让账号法律风险是非常高的，这个账号以前可能有一些违法违规的情况，这账号以前有没有销售产品，一旦出现问题要承担相关的责任。
当前，人工智能技术给人们生产生活带来便利的同时，也带来不少风险挑战。为了促进人工智能健康发展，规范人工智能生成合成内容标识，近日，四部门联合发布《人工智能生成合成内容标识办法》，要求人工智能生成合成内容标识包括显式标识和隐式标识。新规自2025年9月1日起施行。朱巍表示，新规正式落地后，此类乱象将得到遏制。
朱巍：显式标识就是那些被编辑的音视频、文档等等，带水印的，带有明确提示的。那还有一种情况，就是第三方平台生成的东西，有一些隐式标识。意味着什么呢？在肉眼上看不到它有任何标识，但是如果你放到像抖音、快手这样的平台上，在人工智能审核的时候，它会发现你生成的这个内容里面有这个隐式的标识。他以后这种再起号的时候，即便你做得再好，强制性的标记也会存在，很难做到以假乱真了。
(中央广播电视总台中国之声)
浏览量：
223 
大字号
