热搜词:

记者调查“起号”转卖产业链:AI生成形象以假乱真视频藏误导风险

人工智能技术给生产生活带来便利的同时,也面临不少风险挑战。记者调查发现,多个社交平台上大量“ AI 起号秘籍”相关内容声称,“ AI 暴力起号,三天爆万粉,每日轻松变现 300+ ”。有的账号还被明码标价放到账号交易网站上,形成了一条灰色产业链。

在某育儿短视频账号上,大量类似内容打着“外国幼儿教育专家”旗号输出观点。但是这些看似专业的视频里,有不少说法都暗藏误导风险。实际上,这些所谓“外国专家”是 AI 生成的虚拟形象。

在一堂 AI 数字人视频教学课程中,这个育儿账号是导师口中的成功起号案例。

在其他社交平台上还出现了大量“ AI 起号”相关分享,均宣称零门槛、易操作、涨粉快、可变现。

记者调查发现,这些起号教程教授的思路基本一致:仅需要借助两三个 AI 工具,按“文生图、图生图、图生视频”的标准化流程,几分钟就能制作一段时长五秒的美女跳舞视频。这些视频中虚拟人动作虽然略显僵硬,但形象逼真。

目前,各平台已普遍升级 AI 内容识别系统,要求对 AI 生成作品进行显著标注。但这位博主告诉记者,自己用 AI 工具中预配置的镜像参数一键生成的虚拟人形象可以以假乱真,最大限度规避平台的 AI 内容强制标注机制。

记者调查了解到,AI 账号起号成功后大都会隐藏此前引流内容,改头换面成为带货账号;有的顺势打出“ AI 起号实战”噱头,将自身包装成“成功案例”售卖起号课程;还有一部分账号被明码标价进行售卖。

实际上,多数社交平台明确,账号仅限本人使用,禁止以任何形式赠与、借用、出租、转让、售卖或以其他方式许可他人使用该账号。此外,有专家也提醒,转让账号风险确实比较大,如果被转卖的账号此前有违法违规的情况,一旦出现问题,买号人可能需要承担相关责任。

编辑 : 张博忺