您现在的位置是：主页 > 品牌 > 百度 >
百度·文心发布全球首个千亿参数知识增强大模型 揭开全景图幕布
发布时间：2021年12月09日 06:14:18 百度 人已围观
简介12月8日，鹏城实验室与百度联合发布全球首个知识增强千亿大模型——鹏城-百度·文心（ERNIE 3.0 Titan）。该模型具有巨大的参数规模，标志着在人工智能领域的重要进展，进一步推动了...
12月8日，鹏城实验室与百度合作召开发布会，正式推出了全球首个知识增强千亿大模型——鹏城-百度·文心（版本号：ERNIE 3.0 Titan）。
该模型的参数规模达到2600亿，成为全球最大的中文单体模型，并在超过60项任务中表现出色。
同时，百度的产业级知识增强大模型“文心”全景图首次亮相，这一突破将从技术自主创新和加速产业应用两个方面推动中国人工智能的进一步发展。
中国工程院院士、鹏城实验室主任高文在开场致辞中提到，“预训练模型在科学、社会与创新方面的进步中扮演着至关重要的角色。利用这一工具，可以极大地推动人工智能技术的应用，这对于所有领域的AI发展而言都是利好消息。”
鹏城-百度·文心作为全球首个知识增强千亿大模型，在机器阅读理解、文本分类、语义相似度计算等多项任务中表现最佳，并在30多项小样本和零样本任务上刷新了基准。
鹏城-百度·文心的成功推出，得益于鹏城实验室的“鹏城云脑Ⅱ”算力系统以及飞桨深度学习平台的强强联合，解决了超大模型训练中的多个技术难题，从而显著提高了训练效率与模型性能。
其中，“鹏城云脑Ⅱ”是国内首个自主研发的E级AI算力平台，曾在多个国际性能测试中夺冠。而飞桨则是中国首个自主开发的深度学习开源平台。
为了解决大型模型的应用落地难题，百度团队创新性地提出了大模型在线蒸馏技术，模型参数的压缩率可达到99.98%。这一压缩版本的模型仅保留0.02%的参数量，却能与原模型效果相当，为广泛的产业应用开启了新机遇。
目前，百度文心通过飞桨平台持续开放源代码，并已在百度搜索、信息流、智能音箱等多个互联网产品中得到了广泛应用，同时借助百度智能云为工业、能源、金融、通信、媒体、教育等多领域提供支持。
在金融行业，利用百度文心实现了智能合同解析功能，能够在一分钟内完成相关合同条款的识别解析，效率是以往的数十倍，极大提高了工作效率。百度智能云的智能客服也借助百度文心提升了服务精准度，现已在中国联通、浦发银行等公司成功应用，业务扩展至全国范围。