小红书平台近期针对站内出现的AI技术滥用问题展开专项整治行动。平台官方账号“薯管家”发布公告称，将全面升级对人工智能生成内容的监管措施，要求创作者必须对AI合成内容进行明确标识，以维护社区内容真实性和用户权益。
据平台披露，近期收到大量用户举报，反映部分账号通过AI技术伪造公众人物形象、制作虚假视频。这些未经授权的内容不仅侵犯当事人肖像权，更因未履行标识义务导致信息真伪难辨，严重破坏社区信任体系。平台数据显示，仅上月就处理相关违规内容超2.3万条。
新实施的监管方案采用"双轨制"标识体系：创作者需在发布环节主动勾选"AI生成"选项，系统将自动添加特殊标识；若未主动标识，平台检测系统将通过图像特征分析、行为模式识别等技术手段进行二次判定，强制添加醒目标识。这种设计既保障合规内容传播效率，又形成技术防控闭环。
在处罚机制方面，平台建立分级处置体系。首次违规将收到警告并强制标识，二次违规内容推荐权重降低50%，三次及以上违规账号将被限制发布权限。特别针对涉及公众人物的AI合成内容，平台将启动专项审核通道，要求提供原始素材授权证明。
技术层面，平台投入研发的AI内容检测系统已实现多模态识别能力，可精准区分深度伪造、风格迁移等不同技术路径生成的合成内容。该系统与国家网信办《人工智能生成合成内容标识办法》实现数据互通，确保监管标准与行业规范同步。
此次整治行动同步启动创作者教育计划，通过线上课程、案例解析等方式帮助用户理解合规要求。平台负责人表示，将持续优化技术手段，建立"技术防控+人工审核+用户举报"的三维治理体系，坚决遏制AI技术滥用势头。
