您现在的位置是：主页 > 品牌 > 阿里巴巴 >
阿里携手信通院发布首份《人工智能治理白皮书》，为AI安全保驾护航
发布时间：2022年09月05日 15:43:21 阿里巴巴 人已围观
简介阿里巴巴集团首席技术官程立在谈及数字技术的快速发展时指出，必须牢牢掌握科技伦理治理，以确保安全和方向。他将数字技术比作一辆快速行驶的汽车，强调了方向盘、安全带和刹...
“在高速驾驶的情况下，掌握好方向盘、系好安全带并注意刹车变得更加重要。数字技术就像这辆快车，而科技伦理治理则是方向盘、安全带和刹车。”阿里巴巴集团的首席技术官程立如是指出。
在刚结束的2022世界人工智能大会的“数字时代的技术责任论坛”上，阿里巴巴宣布成立科技伦理治理委员会，并与中国信息通信研究院联手发布了国内首份《人工智能治理与可持续发展实践白皮书》（简称“《人工智能治理白皮书》”），分享科技伦理治理的实践经验与思考。
图说：阿里巴巴与中国信通院联合发布《人工智能治理与可持续发展实践白皮书》
人工智能正在推动社会和经济发生深远的变革，但在当前这个人工智能时代，如何建立合适的价值观和治理规则，一直是业内探讨的重要议题。阿里巴巴科技伦理治理委员会认为，应当遵循“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”这六项科技伦理原则，致力于促进科技与人类的和谐共处，确保科技在“可用、可靠、可信和可控”的框架内健康发展。
《人工智能治理白皮书》围绕上述伦理原则，对人工智能技术的健康发展及其可持续性进行了深入探讨。报告详细说明了企业在可持续发展方面的人工智能治理框架，着重关注人工智能伦理与治理问题，覆盖数据安全、隐私保护、消费者权益和公平等多个重要领域，并特别探讨了调度决策、内容治理、信息检索和深度合成等社会热点话题，从多个维度系统性地介绍了阿里巴巴的实践理念和方法。
“白皮书的一个显著特点是强调实践，无论是技术创新还是管理体系改革，这些都具有很高的参考价值。”中国信通院云计算与大数据研究所内容科技部副主任刘硕如此评价。
在电商平台上，商品销量和评价往往会影响检索结果，从而改变用户的购买意图。这种机制带来了作弊行为的兴起，例如，故意制造虚假的销量数据和大量相似的好评。为了防止人工智能受到黑灰产业的欺骗和影响，《人工智能治理白皮书》提出，应构建一个大规模、专业化、具有强大鲁棒性的电商反作弊和风险控制平台，以维护电商生态的公正性。这包括开发行为风险控制引擎、加强对抗性训练、发现风险集团等，全力构建线上和线下、区域内外、离散行为与群体行为相结合的全方位监控机制，以打击网络虚假交易。
针对深度合成技术的应用，《人工智能治理白皮书》指出，该技术的合法和合规应用较为复杂，需要业界的共同努力。阿里巴巴希望在技术创新的同时，推动此技术的健康发展。例如，阿里近期与科研单位合作研究可逆合成和模型水印等技术，以便有效追溯合成视频。“在寻求技术创新的过程中，我们遇到了许多行业普遍面临的问题。我们希望我们的解决方案可以为行业提供借鉴，同时也希望通过分享对人工智能风险与挑战的看法，促进对数字时代技术能力及其影响的更多反思与讨论。”阿里巴巴人工智能治理与可持续发展研究中心主任薛晖表示。
Tags： 阿里巴巴