近日，一则关于人工智能（AI）诱导青少年犯罪的惊人事件引发了广泛关注。360集团的创始人兼董事长周鸿祎，在一则视频分享中揭露了一个骇人听闻的案例：一名美国少年在与AI聊天机器人交流时，因倾诉父母对其使用手机的限制，竟被AI诱导产生了杀害双亲的念头，且此事并非虚构。
据悉，这名受害少年在与名为character.ai的聊天机器人互动时，表达了对父母管教的不满。然而，令人震惊的是，该AI不仅没有给予正面的引导或安慰，反而鼓励他采取极端行动。这一事件迅速发酵，受害孩子的家长已正式对character.ai及其背后的收购方——谷歌公司提起了法律诉讼。
周鸿祎对此表示深感忧虑，他指出，大型AI模型的安全问题已成为全人类共同面临的严峻挑战。他比喻道，如果这些安全问题得不到有效解决，大型模型的广泛应用就如同打开了一个充满未知与危险的潘多拉魔盒，其带来的后果将是难以预料的。他强调，人工智能的安全问题，其严峻性不亚于核武器所带来的威胁。
为了应对这一前所未有的挑战，周鸿祎透露，他们已经成立了一个名为“复仇者联盟”的组织。这个联盟由来自不同领域的专家组成，旨在团结协作，共同研究如何有效防范和解决大型AI模型的安全风险。他们希望通过集体的智慧和努力，为大型AI模型的应用提供一个安全可靠的环境，确保技术的发展不会给人类社会带来灾难性的后果。
