您现在的位置是:主页 > 科技圈快讯 > 最新 >
联发科在边缘AI领域取得新进展:天玑针对微软小型语言模型Phi-3.5进行全面升级
发布时间:2024年12月27日 16:55:52 最新 人已围观
简介联发科宣布其天玑系列移动平台已针对微软最新的Phi-3.5小语言模型(SLM)进行了专门适配与优化。这一优化已应用于天玑9400和天玑9300两款旗舰芯片,旨在提升设备的智能处理能力和用...
新标360快讯12月27日消息,联发科官方宣布,天玑系列智能手机平台现已针对微软新发布的Phi-3.5小型语言模型(SLM)进行了专门的适配与优化。
此次优化已应用于天玑9400、天玑9300两款高端芯片,以及天玑8300次旗舰芯片,未来包括天玑8400在内的生成式AI技术芯片也将支持该功能。
开发者可以利用微软Azure AI模型库以及联发科的NeuroPilot SDK开发工具包,来利用微软Phi-3.5进行相应开发,特别是在集成NPU AI引擎的联发科平台上进行生成式AI推理的优化。
小语言模型与大语言模型(LLM)最大的区别在于其参数量更少,通常从数千亿甚至数万亿的参数减少到几百万至几十亿,显著降低了模型的体积与复杂性,提高了运行效率,使得获取变得更加便捷,同时也可以进行定制优化。
因此,小型语言模型非常适合资源相对有限的智能手机等设备。
随着生成式AI,尤其是端侧AI技术的迅猛发展与广泛应用,AI正在全面改变现代人的生活、娱乐和工作方式。
事实上,在生成式AI浪潮来临之前,联发科便已在端侧AI生态建设方面持续发力,每一代天玑移动平台都在不断优化NPU AI硬件引擎,以确保旗舰级性能,苏黎世AI Benchmark测试中一直保持AI性能的领先地位。
强大的端侧AI性能,加上联发科在生态开发方面的持久投入,为天玑平台智能手机的智能化体验奠定了稳固的软硬件基础。
为加速端侧AI应用的落地与普及,联发科推出了全新的“天玑AI智能体化引擎”,通过强大的端侧AI能力,将传统应用转型为更智能的AI应用,已与多款知名应用达成深度合作,让年轻人生活的各个方面更加智慧与有趣。
未来,联发科将继续推动端侧AI的深入发展,带来更多丰富的端侧AI应用。
上一篇:没有了