登陆注册
12351

联发科发布天玑9300生成式AI移动芯片 支持运行330亿参数大模型

站长网2023-11-07 11:30:200

昨日晚间,联发科技发布了天玑9300旗舰5G 生成式 AI 移动芯片,采用台积电第三代4nm 制程。该芯片预计于2023年底上市。

这款芯片采用全大核架构设计,提供高智能、高性能、高能效、低功耗的特性,为用户带来卓越的生成式 AI 体验。

天玑9300采用4个超大核和4个大核的全大核 CPU,性能相较上一代提升40%,功耗降低33%。天玑9300还搭载了旗舰级的12核 GPU,峰值性能提升46%,功耗节省40%,提供持久流畅的旗舰移动游戏体验。芯片还拥有旗舰级的 ISP 影像处理器,支持 AI 语义分割视频引擎,提供优化的视频录制画面和高清晰度的图像捕捉。

天玑9300还支持移动显示处理、音频降噪、无线连接、5G 通信和数据安全等功能。

AI方面,天玑9300集成 MediaTek 第七代 AI 处理器 APU790,其性能和能效得到显著提升,整数运算和浮点运算的性能是前一代的2倍,功耗降低了45%。APU790内置了硬件级的生成式 AI 引擎,可实现更加高速且安全的边缘 AI 计算,深度适配 Transformer 模型进行算子加速,处理速度是上一代的8倍,1秒内可生成图片。

基于亿级参数大语言模型特性,MediaTek 开发了混合精度 INT4量化技术,结合 MediaTek 特有的内存硬件压缩技术 NeuroPilot Compression,可以更高效地利用内存带宽,大幅减少 AI 大模型对终端内存的占用,支持终端运行10亿、70亿、130亿、最高可达330亿参数的 AI 大语言模型。

MediaTek 的 AI 开发平台 NeuroPilot 构建了丰富的 AI 生态,支持 Android、Meta Llama2、百度文心一言大模型、百川智能百川大模型等前沿主流 AI 大模型,完整的工具链助力开发者在端侧快速且高效地部署多模态生成式 AI 应用,为用户提供文字、图像、音乐等终端侧生成式 AI 创新体验。

0000
评论列表
共(0)条