小红书近日在北京举办了首届AI治理开放日活动，首次系统性地公开了平台对人工智能生成内容的治理框架。该框架以“真实性”与“原创价值”为核心标尺，通过“鼓励清单”与“禁止清单”双轨机制，为创作者提供明确的创作指引。平台明确要求所有AI参与生成的内容必须主动标识，未标识内容将由系统自动添加识别标签，但标识行为不会影响内容流量分发。
在内容鼓励方向上，平台重点支持三类AI创作场景：一是知识可视化创新，如将专业领域知识转化为动态科普内容；二是虚拟角色与IP衍生创作，鼓励开发具有辨识度的数字形象；三是高质量视觉创作，涵盖艺术插画、叙事性绘画及具有电影质感的短片制作。央美国画专业毕业生@一方画猫呢 在活动中分享了创作案例，其通过AI技术将静态院体画转化为动态影像，在保持原创笔触的同时，使画面呈现穿云动效等视觉突破。该创作者强调，AI仅作为最终阶段的视觉增强工具，核心创意与手绘部分仍由人工完成。
针对AI滥用问题，平台划定了四条治理红线：严厉打击利用AI进行账号托管、批量造假、侵权创作及低质内容生产。具体包括禁止全自动运营账号、仿冒名人身份、虚构人设经历、恶意篡改经典作品等行为，同时对批量生成同质化内容、传播极端画面或不良价值观的内容采取限制曝光直至封禁的处罚措施。据用户信任中心负责人披露，2024年以来平台已处置超百万例AI违规行为，其中托管账号超80万个，虚假笔记近15万篇。
为保障治理措施落地，平台建立了多层次保障机制：开通AI标识申诉通道，允许创作者对系统误判进行反馈；优化流量分配算法，确保优质内容获得公域推荐；定期更新技术识别模型，提升对新型违规行为的监测能力。AI科普创作者@大师的AI小灶 在讨论中指出，当前技术发展速度远超公众认知水平，平台治理规则的及时完善对维护内容生态健康至关重要。
此次治理框架的推出，是平台对“真诚分享”社区价值观的延续性实践。通过建立AI创作行为规范，小红书试图在技术革新与人文价值之间寻找平衡点，既为创新工具提供应用空间，又坚守真实人际连接的核心属性。该举措也为行业提供了治理样本，显示头部平台正在通过制度设计应对人工智能带来的内容生态挑战。
