法治热点 | 有商家用AI仿冒运动员及其家人带货、利用AI虚假宣传,抖音:下架、清退

多客科技

作者：微信文章
9月2日，抖音电商安全与信任中心发布了关于加强治理AI内容滥用的公告。公告称，平台已对违规视频和账号采取下架、清退等措施，并强调AI应用必须合规，任何误用、滥用行为将被严厉打击。

抖音电商近期发现，少数商家和达人存在滥用或误用AI技术的情况，甚至借助AI生成误导内容，损害消费者合法经济权益，扰乱平台正常交易秩序。

具体表现如下：

少数商家利用AI技术生成虚假商品展示、夸大不实的功能宣传内容，误导消费者购买，造成用户财产损失。

利用AI生成虚拟人物冒充真实身份，冠以权威专家、名人的虚假人设进行带货，损害消费者信任，违规变现。

在商品详情页、直播间使用AI生成的虚构测评、编造使用体验，刻意制造虚假口碑，影响消费者理性判断。

以下将通过典型AI内容滥用案例，帮助各位商家及达人理解平台的电商 AI 内容治理规则：

典型违规案例一：

AI仿冒名人带货

少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。例如，有账号合成某知名运动员父亲、哥哥的声音，并使用相同文案称“家里要盖新房”，借此博取流量。在这些AI合成视频中，往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接，误导消费者下单。目前站内已及时处置相关视频，也呼吁广大创作者尊重名人肖像权，共同维护平台的营商环境。

合规解析：创作者不得利用AI生成虚拟人物或仿冒社会名人、特定专业身份（如军警等），进行带货变现，或通过卖惨方式违规营销。



典型违规案例二：

生成违背常识的AI内容

创作者利用AI创作不符合现实或不存在的商品内容，甚至夸大商品大小、量产等，涉嫌虚假宣传。如，少数创作者在直播间利用AI展示樟树港辣椒丰收的场景，辣椒的数量、分布和植株生长规律完全不符合现实农业，并在口播中夸大种苗的量产，误导消费者下单。

合规解析：创作者不得利用AI生成违背常识、虚构编造等内容，如与农业现实完全违背的内容等。



典型违规案例三：

AI内容与售卖商品完全无关

少数视频创作者利用AI制作与售卖商品完全无关的内容，从而吸引消费者关注。如，创作者实际售卖产品为硫磺润肤露，但利用AI更改各地方新闻报道画面作为素材吸引用户关注后，讲解推销相关商品。

合规解析：创作者不得使用与商品无关的虚假或误导性素材，如篡改新闻报道为虚假商品测评等来吸引关注。



典型违规案例四：

缺少AI自主声明

少数视频创作者未主动添加AI视频声明。

合规解析：用户发布 AI 生成的内容时，需自主声明，不做自主声明，平台会根据规则进行识别和治理。



此前据界面新闻报道，《人工智能生成合成内容标识办法》9月1日正式生效。

微博：对识别到的AI生成内容添加隐式标识及显式标识

微博发布公告称，站方依据《办法》要求，通过升级产品功能及技术识别手段，对平台内识别到的的AI生成内容依规添加隐式标识及显式标识。

微博还在公告中表示，如用户发表的文本、图片、音视频等内容由人工智能生成合成，用户应在“选择内容声明”功能栏中选择“内容由AI生成”。站方在用户自主声明的基础上，还在投诉侧增加 “未添加AI标识”投诉分类，如发现平台用户发布的微博内容包含AI 生成内容但未进行AI 内容标记声明，可以选择此分类进行投诉。

快手：已上线AI内容标识

快手发布公告称，平合已上线AI内容标识，会在AI生成的内容中添加“AI生成”显式标识以及嵌入文件元数据中的隐式标识。如果用户上传的内容明确由AI生成或疑似由AI生成，平台会在内容周边进行显著提示。

抖音：升级AI内容标识功能

抖音发布《关于升级AI内容标识功能的公告》，进一步规范平台上的AI内容创作与传播。《公告》显示，抖音已上线两项核心功能：一是AI内容标识功能，协助创作者为AI内容添加提示标识，方便用户辨别；二是AI内容元数据标识读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技术支撑。

---

来源：九派新闻、抖音电商安全与信任中心
编辑：谭宇村