中国第一、全球第六:零一万物发布新模型Yi-Lightning

AI快讯 2024-10-29 10:30更新网络

国内人工智能大模型创业公司“零一万物”正式发布了新的预训练模型 Yi-Lightning。

零一万物发布的最新旗舰模型 Yi-Lightning,与零一万物上半年发布的千亿参数模型 Yi-Large 相比,在性能更进一步的前提下,推理速度方面有着极大提升。

根据官方发布的评测数据显示,在 8xH100 算力基础下,以同样的任务规模进行测试,Yi-Lightning 的首包时间(从接收到任务请求到系统返回响应的结果的时间差)仅为 Yi-Large 的一半,最高生成速度也提升了近四成,实现了旗舰模型的性能升级。

在国际权威盲测榜单 LMSYS 上,Yi-Lightning 排名第六,暂时位列于OpenAI的GPT-4o-2024-05-13、Anthropic的Claude 3.5 Sonnet之前,排名世界第六、国内第一,稳居世界第一梯队的大模型公司之列。

图片

根据李开复介绍,模型性能与推理速度的提升,一方面因为零一万物重视AI Infra能力的提升,2024年以来,中国大模型行业从狂奔进入到了“长跑阶段”,而大模型公司的核心竞争力模型+AI 基础设施+应用,缺一不可。

另外一方面,Yi-Lightning更新了模型架构,不再应用稠密模型架构,而是采用了 Mixture of Experts(MoE)混合专家模型架构,并在模型训练过程中做了新的尝试。

零一万物同时也发布了面向ToB市场的首款产品——AI 2.0数字人,为零售和电商场景设计,利用最新的Yi Lightning旗舰模型提供行业解决方案。

在本次的发布会上,作为CEO的李开复回应了国内近期盛传的「两家公司放弃大模型预训练」的传闻,他提到:“据我了解的情况,目前国内的“AI六小虎”在融资方面都有足够的资金支持,可以承担起预训练模型的运行成本。因此,只要这些公司能够吸引到足够的优秀人才,并有决心进行预训练模型的开发,资金和芯片的资源都不会成为发展的障碍。”

相关文章