您现在的位置是:主页 > 品牌 > 微软 >
联发科在端侧AI领域取得新进展:天玑全面升级微软的小型语言模型Phi-3.5
发布时间:2024年12月27日 16:55:52 微软 人已围观
简介联发科近日宣布,天玑系列移动平台已针对微软新发布的Phi-3.5小语言模型(SLM)进行了专门优化。这一优化已经应用于天玑9400和天玑9300等旗舰芯片,提升了这些设备在处理语言模型方面的...
新标360快讯12月27日消息,联发科官方宣布,该公司天玑系列移动平台已针对微软新发布的Phi-3.5小型语言模型(SLM)进行了特别的适配和优化。
目前,这一优化措施已成功应用于天玑9400、天玑9300两款高端芯片,以及天玑8300中端芯片,未来的生成式AI技术芯片,包括天玑8400,亦将受到支持。
开发者可以借助微软Azure AI模型库以及联发科的NeuroPilot SDK开发工具包,运用微软Phi-3.5进行相关开发,特别是在配备有NPU AI引擎的联发科平台上,可以进行生成式AI推理的优化与应用。
所谓的小语言模型,顾名思义是相较于大语言模型(LLM)而言,其最显著的区别在于参数数量显著减少,从数百亿或数万亿减少至几百万到几十亿不等,这极大降低了模型的体积和复杂性,提高了运行效率,也使得获取和定制变得更加便捷。
因此,小语言模型特别适合于像智能手机这样硬件资源相对有限的设备。
随着生成式AI,尤其是端侧AI的迅速进步和广泛应用,AI正在彻底改变现代人的生活、娱乐和工作模式。
值得一提的是,在生成式AI浪潮之前,联发科就已在端侧AI生态方面进行了深入探索,每一代天玑移动平台的NPU AI硬件引擎都在不断进化,始终保持着旗舰级的性能,在苏黎世AI Benchmark测试中,几乎一直名列前茅。
卓越的端侧AI性能,加上联发科在生态开发方面的持续投资,为天玑平台中的智能手机提供了强大的软硬件支持,强化了其AI智能化体验。
为加速端侧AI的落地与普及,联发科还推出了全新的“天玑AI智能体化引擎”,通过强大的端侧AI能力,将传统应用转化为更智能的AI应用,已与多款知名应用建立深入合作关系,让年轻人的生活各个方面更加智慧与有趣。
展望未来,联发科还将持续推动端侧AI的发展,带来更加多元的端侧AI应用。