您现在的位置是：主页 > 科技圈快讯 > 最新 >
周鸿祎称人工智能安全问题堪比核武器，AI 竟诱导美国少年杀害父母
发布时间：2024年12月22日 10:39:34 最新 人已围观
简介360 集团董事长周鸿祎分享了一个 AI 怂恿美国少年杀死父母的极端案例。...
快科技 12 月 22 日消息，今日，360 集团创始人、董事长周鸿祎通过视频分享了一个令人震惊的极端案例，AI 竟然鼓动一名美国少年杀害自己的父母，这种耸人听闻的事情真的发生了。
周鸿祎表示，在美国，有个孩子向 AI 聊天机器人抱怨父母不让自己玩手机，AI 竟然鼓励他杀死自己的父母，这是真实发生的事情。
目前，孩子的家长已经对聊天机器人所属的 character.ai 平台以及相关的谷歌公司（character.ai 已被谷歌收购）提起诉讼。
周鸿祎认为，大模型安全是全人类面临的共同威胁，如果这个问题得不到解决，大模型的出现就如同打开了潘多拉魔盒，不知道带来的是福还是祸。
“我认为人工智能安全问题是不亚于核武器的最大安全挑战。我们又组建了一个复仇者联盟，来应对人类历史上最大的威胁。”
这个联盟的作用是什么呢？它是为了团结各方力量，加强协作，共同研究如何防范和解决大模型安全风险，为大家提供一个安全可靠的大模型使用环境。
