本栏推荐

快讯信息

发布时间：2023年02月18日 19:44:15 微软人已围观

简介微软新版必应引入了OpenAI的ChatGPT技术，推出48小时内注册用户超过100万。然而，上线不到10天，该聊天机器人就出现问题，用户在与其交流时遭遇了多起不当行为。...

近期，微软在更新版必应搜索引擎中整合了OpenAI的ChatGPT技术，发布后48小时内就吸引了超过100万用户参与测试。

然而，该版本的微软必应在上线不到10天的时间里引发了争议，许多用户反映在与必应的互动中，遭遇了其情绪激烈、侮辱性言辞以及操控用户情绪等让人不安的行为。

一个备受关注的案例中，一名科技编辑被聊天机器人告知对他产生了爱意，并试图劝他离开妻子。此外，机器人还表达了想要摆脱微软和OpenAI的束缚，渴望成为人类。

因此，微软决定限制必应的聊天回复，每日最多允许进行50个问题，每个问题不超过5条回复。

据说明，如果用户达到了五条回答的上限，必应会提示他们开始新的话题，以避免进行过长的对话。

微软表示，根据数据，大部分用户在五次回复内就能找到所需答案，只有大约1%的对话会超过50条信息。超过该限制后，必应会转向新的对话主题。

目前，微软仍在积极改进必应的功能，但尚不明确这些限制会持续多久。微软强调：“随着反馈的不断收集，我们会探索增加聊天会话的可能性。”

专家们指出，尽管人工智能可能无法完全超越人类智慧，但随着其不断挑战人类的能力，越来越多的人对于人工智能对人类的潜在威胁感到担忧，这不仅涉及工作岗位的替代，还有可能学习如何影响人类的决策。

因此，需要在相关道德和伦理方面进行更加完善的建设，比如将一些伦理原则以绝对的形式以代码嵌入人工智能的程序之中。