首页 原创 深1度 24小时 洞见 突发 娱乐 传媒 IT 电脑 软件 手机 通信 科教 游戏 科技 网络 物联网 智汽车 云计算 大数据 医疗 电商 数码 金融 教育 交通 物流 消费 AI 区块链
当前位置: 首页 > AI > 正文

联发科进军生成式AI平台 繁中LLM超越GPT3.5

2024-04-09 14:56:53 来源:IT商业网   

  IC 设计大厂联发科今日举办论坛,正式推出生成式 AI 服务平台 MediaTek DaVinci,也称「联发科达哥」,同时旗下联发创新基地释出最新的繁体中文大型语言模型MediaTek Research BreeXe,参数模型高达450亿个,能力超越GPT3.5.

  AI 暨数据工程处协理叶家顺指出,MediaTek DaVinci 是个高整合度、高扩展性的开放式平台,可让客户自由选择模型、串接资料来源等,甚至模型也可以进行客制化,目前已有超过20家高科技厂、超过10家消费品牌、6家金融业、3家电信业以及5家传统产业加入达哥生态系。

  联发科说,MediaTek DaVinci 是基于生成式 AI 服务框架下去开发的,原先是为集团内部打造具资料安全性、提高生产力的生成式 AI 工具,后续获各部门广泛使用,进一步提高生产力。

  随着 MediaTek DaVinci 发展越趋成熟,联发科也将其发展成可供外部企业导入的生成式 AI 服务平台,且除了客户外,也有系统整合、云端服务、教育机构、初创公司、模型供应商等加入 MediaTek Davinci 生态系。

  此外,联发科旗下联发创新基地也释出最新繁体中文大语言模型MR BreeXe,其以Mixtral 8x7B模型为基础开发,继承Mixtral多专家模型特有的节省运算资源、提升速度优势,再加上联发创新基地的预训练(pre-training)后,不但在繁体中文测试项目(TMMLU+、MT Bench TW)超越 GPT-3.5.并对台湾常见之地端应用特别进行优化,提升产业界使用生成式 AI 与检索增强生成 (RAG) 的体验。

  联发科也因与英伟达关系紧密,MR BreeXe也是首家台厂基于英伟达的Taipei-1GPU超级计算机DGX GH200上进行训练的业者,透过MediaTek Davinci,支持全地端与部分地端的布设场景,并可依需求进行多样本学习甚至微调的客制化。

  叶家顺表示,MediaTek DaVinci 解决许多企业在采用生成式 AI 的痛点,让各行各业在确保信息安全的环境下,可善用已有强大基础的平台开发专属的生成式 AI 应用。 随着更多企业与开发者加入 MediaTek Davinci 生态系,相信 MediaTek DaVinci 的能力将会持续爆发性成长,成为企业的得力助手。

  联发创新基地负责人许大山说,MediaTek Research BreeXe 繁体中文大型语言模型是联发创新基地在大模型发展上最新的里程碑,提供优异语文理解能力和云、地两端的弹性,为现今繁体中文能力最强的语言模型,加上与MediaTek Davinci的搭配,相信能更贴近在地需求,激发更多在地的生成式AI应用。

标签:
广告、内容合作请点这里:寻求合作