9月8日，@抖音集团李亮 发文：本年一季度咱们发现平台出现无数诈欺AI仿冒“于东来”语音、形象，非法营销带货的账号和内容，这些黑灰产的行径不仅侵扰了干系企业的权力，还严重误导了消耗者。封禁这1000多个黑灰产团伙账号的同期开yun体育网，咱们还把干系痕迹举报给了监管部门。历程探听，泉州市丰泽区市监局充公干系企业行恶所得并处罚金15万元。AI带来技艺朝上的同期也被好多黑灰产盯上，针对这些糟践AI的行径抖音一直在要点经管。对于干系行恶非法内容，宽待公共共同监督。

图源：CFP

随后，抖音黑板报转发反应：若是发现非法账号和内容，不错通过以下方式举报，咱们会第一时分核实处理。1、点击视频转发按钮，在“举报”中取舍“AI生成内容问题”进行举报；2、发送细目至举报邮箱：feedback@douyin.com。

此前，有商家用AI仿冒通顺员过甚家东谈主带货、诈欺AI失实宣传，抖音选定下架、清退措施。

9月2日，抖音电商安全与信任中心发布了对于加强经管AI内容糟践的公告。公告称，平台已对非法视频和账号选定下架、清退等措施，并强调AI应用必须合规，任何误用、糟践行径将被严厉打击。

抖音电商近期发现，少数商家和达东谈主存在糟践或误用AI技艺的情况，致使借助AI生成误导内容，挫伤消耗者正当经济权力，干扰平台当年走动秩序。

具体进展如下：

●少数商家诈欺AI技艺生成失实商品展示、夸大空幻的功能宣传内容，误导消耗者购买，形成用户财产蚀本。

●诈欺AI生成编造东谈主物冒充确凿身份，冠以巨擘内行、名东谈主的失实东谈主设进行带货，挫伤消耗者信任，非法变现。

●在商品细目页、直播间使用AI生成的虚构测评、编造使用体验，刻意制造失实口碑，影响消耗者感性判断。

以下将通过典型AI内容糟践案例，匡助诸君商家及达东谈主通晓平台的电商 AI 内容经管章程：

典型非法案例一：

AI仿冒名东谈主带货

少数视频创作家诈欺AI仿冒名东谈主形象、声息和口型，用于商品宣传，误导不了解的用户下单购买。举例，有账号合成某有名通顺员父亲、哥哥的声息，并使用疏通案牍称“家里要盖新址”，借此博取流量。在这些AI合成视频中，常常挂载骆驼奶粉、土鸡蛋、洗衣液等商品荟萃，误导消耗者下单。当今站内已实时惩处干系视频，也敕令强大创作家尊重名东谈主肖像权，共同崇拜平台的营商环境。

合规领略：创作家不得诈欺AI生成编造东谈主物或仿冒社会名东谈主、特定专科身份（如军警等），进行带货变现，或通过卖惨方式非法营销。

典型非法案例二：

生成抵触学问的AI内容

创作家诈欺AI创作不恰当执行或不存在的商品内容，致使夸大商品大小、量产等，涉嫌失实宣传。如，少数创作家在直播间诈欺AI展示樟树港辣椒丰充的场景，辣椒的数目、漫衍和植株助长端正都备不恰当执行农业，并在口播中夸大种苗的量产，误导消耗者下单。

合规领略：创作家不得诈欺AI生成抵触学问、虚构编造等内容，如与农业执行都备抵触的内容等。

典型非法案例三：

AI内容与售卖商品都备无关

少数视频创作家诈欺AI制作与售卖商品都备无关的内容，从而诱骗消耗者边幅。如，创作家骨子售卖居品为硫磺润肤露，但诈欺AI调动各地点新闻报谈画面手脚素材吸援用户边幅后，素质倾销干系商品。

合规领略：创作家不得使用与商品无关的失实或误导性素材，如改造新闻报谈为失实商品测评等来诱骗边幅。

典型非法案例四：

枯竭AI自主声明

少数视频创作家未主动添加AI视频声明。

合规领略：用户发布 AI 生成的内容时，需自主声明，不作念自主声明，平台会凭证章程进行识别和经管。

此前据界面新闻报谈，《东谈主工智能生成合成内容象征主义》9月1日崇敬收效。

微博：对识别到的AI生成内容添加隐式象征及显式象征

微博发布公告称，站方依据《主义》条件，通过升级居品功能及技艺识别技巧，对平台内识别到的的AI生成内容依规添加隐式象征及显式象征。

微博还在公告中示意，如用户发表的文本、图片、音视频等内容由东谈主工智能生成合成，用户应在“取舍内容声明”功能栏中取舍“内容由AI生成”。站方在用户自主声明的基础上，还在投诉侧加多 “未添加AI象征”投诉分类，如发现平台用户发布的微博内容包含AI 生成内容但未进行AI 内容象征声明，不错取舍此分类进行投诉。

快手：已上线AI内容象征

快手发布公告称，平合已上线AI内容象征，会在AI生成的内容中添加“AI生成”显式象征以及镶嵌文献元数据中的隐式象征。若是用户上传的内容明确由AI生成或疑似由AI生成，平台会在内容临近进行显赫指示。

抖音：升级AI内容象征功能

抖音发布《对于升级AI内容象征功能的公告》，进一步措施平台上的AI内容创作与传播。《公告》透露，抖音已上线两项中枢功能：一是AI内容象征功能，协助创作家为AI内容添加指示象征，粗野用户分手；二是AI内容元数据象征读写功能，可识别并写入AI内容的元数据信息，为内容溯源提供技艺因循。

开始：九派新闻笼统自抖音黑板报、抖音电商安全与信任中心、界面新闻开yun体育网