来源:格隆汇

中科创达(300496.SZ):近日公司已经率先发布了端侧运行130亿参数模型

格隆汇12月11日丨中科创达(300496.SZ)在业绩说明会上表示,公司的大模型一直强调混合AI,端云协同等人工智能技术发展的新趋势。一方面定义了大模型基础模型在云端大脑的能力,并不断强化大模型在端侧边缘测的部署。近日,公司已经率先发布了端侧运行130亿参数模型。充分利用模型压缩、分布式以及张量并行技术,成功在搭载了高通8系列芯片平台的边缘设备上实现了LLaMA2 130亿参数模型的稳定运行,成为业内首家取得此突破的大模型企业。

中科创达(300496.SZ):近日公司已经率先发布了端侧运行130亿参数模型

中科创达(300496.SZ):近日公司已经率先发布了端侧运行130亿参数模型