阿里巴巴近日宣布推出全球首个企业级AI原生工作平台“悟空”，旨在为企业提供更安全、高效的AI应用解决方案。然而，随着AI技术的广泛应用，企业数据安全问题也日益凸显。钉钉CEO在发布会上特别强调，当前企业在引入AI工具时，面临“权限脆弱”、“越权执行”、“数据泄露”和“恶意技能”四大核心风险。
他以具体案例说明问题的严重性：某企业员工在内部3000人大群中训练AI“养龙虾”，结果该AI意外泄露了公司机密信息，包括IP地址、真实姓名、企业名称甚至全年营收数据。无独有偶，meta公司安全总监的电脑曾遭攻击，200余封重要邮件被批量删除，造成难以估量的损失。更令人震惊的是，目前有超过39万个claw站点资产处于无保护状态，企业数据完全暴露在风险之中。
钉钉负责人陈航对此表达强烈担忧。他指出，部分企业盲目追求AI技术应用，却忽视了基础安全防护。“将未经管控的超级智能体随意部署，相当于给每台电脑开后门，导致中木马、病毒的风险激增。”他形象地比喻道，“这种行为就像把猛兽放出笼子，当企业失去对AI的控制权时，终将被技术反噬。”
针对这些隐患，“悟空”平台特别设计了沙箱运行机制和分级权限管理系统。通过将AI操作隔离在安全环境中执行，并严格限制数据访问权限，该平台可有效防止越权行为和数据泄露。阿里巴巴表示，未来将持续完善安全防护体系，帮助企业在享受AI红利的同时，筑牢数据安全防线。
