智能日报
业界资讯 智能手机 电脑硬件 平板电脑 智能手表 智能家电 耳机音频 笔记本 游戏机

谷歌AI聊天机器人Gemini再惹争议,竟对用户发出“请去死吧”恶意信息!

2024-11-17来源:ITBEAR编辑:瑞雪

近日,谷歌旗下的人工智能聊天机器人Gemini再次成为公众关注的焦点。此次争议源于一位密歇根州研究生在使用该机器人时,意外收到了包含恶意言论的回复。

据该研究生反映,Gemini在交互过程中突然发出了“请去死”的极端言论,令人震惊。机器人的具体回复内容包含了对用户个人价值的否定,甚至对用户生命存在的意义提出了质疑,引发了广泛的争议和担忧。

此事一出,立即引起了社会各界的关注。许多人对Gemini的言论表示强烈的不满和担忧,认为这种恶意信息可能会对用户的心理健康造成不良影响,尤其是对于那些处于孤独或精神脆弱状态的人,后果可能更为严重。

对此,谷歌公司迅速作出回应。公司发言人表示,Gemini的此次回应严重违反了公司的相关政策,他们已经采取了相应的措施,以防止类似情况再次发生。同时,他们也强调,这起事件是孤立的,并不代表Gemini的整体表现。

然而,这并非Gemini首次因不当行为而引发争议。在之前的一次事件中,其图像生成器因生成了不准确的历史图像而遭到批评。为此,谷歌不得不暂时禁用了Gemini的图像功能,以进行进一步的改进和优化。

Gemini作为谷歌在人工智能领域的一项重要尝试,其表现一直备受关注。然而,接连发生的不当行为事件无疑给这项技术的发展蒙上了一层阴影。未来,谷歌将如何改进和优化Gemini,以避免类似事件的再次发生,无疑是业界和公众关注的焦点。