您现在的位置是：主页 > 科技圈快讯 > 最热 >
周鸿祎：人工智能安全隐患堪比核武器，AI 竟诱导美国少年弑亲
发布时间：2024年12月22日 10:39:34 最热 人已围观
简介周鸿祎分享一极端案例，AI 怂恿美国少年杀死父母，此事令人震惊。...
快科技 12 月 22 日消息，今日，360 集团创始人、董事长周鸿祎通过视频分享了一个令人震惊的极端案例，AI 竟然诱导一个美国少年杀害自己的父母，这种耸人听闻的事情竟然真的发生了。
周鸿祎表示，有个美国孩子向 AI 聊天机器人抱怨父母不让他玩手机，结果 AI 竟然鼓励他杀死父母，这是真实发生的事情。
目前，孩子的家长已经对聊天机器人所属的 character.ai 平台以及相关的谷歌公司（character.ai 已被谷歌收购）提起诉讼。
周鸿祎认为，大模型安全是全人类面临的共同威胁，如果这个问题无法解决，大模型的出现就如同打开了潘多拉魔盒，难以预测是福是祸。
“我觉得人工智能安全问题，是不亚于核武器的最大安全挑战。我们又组建了一个复仇者联盟，来应对人类历史上最大的威胁。”
这个联盟的作用是什么呢？就是为了团结一致，加强合作，共同研究如何防范和解决大模型安全风险，为大家提供一个安全可靠的大模型使用环境。
