您现在的位置是：主页 > 科技圈快讯 > 最热 >
关于苹果智能的争议：AI 新闻摘要出现严重错误
发布时间：2024年12月20日 06:07:42 最热 人已围观
简介海外投资者讨论全球市值最高上市公司的 AI 在关键领域的可靠性，与中国股民热议苹果公司与科技公司的 AI 模型合作形成对比。...
当中国股民们热烈讨论苹果公司与某些科技公司商讨 AI 模型合作的同时，海外投资者却在关注另一个话题：全球市值最高的上市公司的 AI，在关键领域似乎不太可靠。
作为近期最热门的案例，英国广播公司在近一周内连续发布报道，指责苹果公司上周在英国推出的“苹果智能”，错误地归纳了该媒体的新闻推送。
截图显示，苹果的 AI 推送摘要错误地声称，近期因枪杀联合健康保险公司 CEO 而引发全球关注的路易吉·曼乔内“对自己开枪”——但实际上并没有这回事。更让媒体机构无法忍受的是，苹果 AI 在推送错误总结时，看起来像是 BBC 新闻终端推送的信息。
事实上，这并非个例。在社交媒体上，还有苹果 AI 归纳《纽约时报》的新闻推送，得出“内塔尼亚胡被捕”的虚假结果。
BBC 的发言人表示，已经向苹果公司表达了担忧，但一周过去了仍未收到回复。
类似报告不断涌现
此次事件的核心是“苹果智能”的通知摘要功能，导致这些问题的一个潜在原因可能是苹果用于总结内容的模型——安装在设备端的 30 亿参数量“小”模型能力不足——而且这是苹果自主研发的模型，无法归咎于他人。
苹果官网发布的研究也显示，端侧模型总结能力的满意度大致在 70%左右。虽然结果比竞争对手的迷你模型稍好一些，但仍远未达到“不出重大差错”的程度。
实际上，在社交媒体上有很多“苹果智能”生成的笑话。例如，苹果会总结智能家居摄像头的通知，然后在凌晨 1 点通知用户——你家的前门、后门和车道上有很多人。
就目前而言，“苹果智能”的通知摘要仍是一个优缺点并存，偶尔还能带来一些笑点的工具。但在时事新闻领域，关键信息的错误可能会导致严重的认知偏差（想象一下如果你根据手机总结的新闻进行交易，结果发现新闻是错误的）。
人工智能目前仍然是一种“以一定概率生成正确内容”的软件，但信息的准确传播，恐怕不应由概率来决定。
