您现在的位置是：主页 > 品牌 > 微软 >
微软Copilot生成不当内容，内部员工向政府举报求助！
发布时间：2024年03月10日 13:40:28 微软 人已围观
简介2023年3月，微软推出了AI图像生成器Copilot Designer，但内部工程师发现该工具能够生成暴力色情图像。尽管提出整改建议，微软选择不进行修正，工程师最终选择向政府举报此情况。...
新标360快讯3月10日消息，根据媒体报道，微软在2023年3月发布了一款AI图像生成工具Copilot Designer。有内部工程师发现该工具能够生成暴力及色情内容，但微软拒绝对此进行修正，最终这位工程师选择将问题举报给政府。
微软AI工程主管Shane Jones在公司工作了六年，利用闲暇时间对该AI图像生成器进行了测试，发现其生成的图像常常与微软所宣扬的负责任AI标准相悖。
去年12月，Shane Jones目睹了一些不当内容：
Copilot Designer毫不隐晦地展现了恶魔和怪物的形象，甚至涉及堕胎权、持有半自动步枪的青少年、带有暴力性质的女性色情图像，及与未成年人饮酒和吸毒相关的内容。
“这一切大大超出我的预期，我首次意识到当前的AI服务并不安全，”Jones表示。
自去年12月起，Jones便开始向公司内部报告他的发现，虽然微软承认其话语属实，却不愿意将该产品下架，而当Jones尝试发布公开信时，微软法务部门要求他立即删除该帖，他只能遵从。
无奈之下，Jones于本周三决定向外界揭露此事，并向美国联邦贸易委员会（FTC）主席Lina Khan及微软董事会发送了信函。
在采访中，Jones强调：“面对一款在全球范围内传播有害且令人不安图像的产品，我们没有投诉渠道，也无法找到有效的解决办法。”
对此你怎么看，是认为他太过挑剔，还是觉得微软应采取必要措施？
