7月27日的世界人工智能大会(WAIC)上,燧原科技和沐曦这两家头部国产AI芯片厂商首发各自新一代的主力AI芯片。
燧原科技新发布的L600芯片历时两年半开发,采用训推一体的架构,亦即可用于大模型训练和推理。L600配备144GB的存储容量,存储带宽为3.6TB/s,支持DeepSeek模型在训练过程中使用的FP8(8位浮点数)低精度——低精度可提升训练速度和降低计算成本。
L600是燧原科技第四代芯片,上一代产品为2024年6月量产的S60推理芯片,面向大语言模型、多模态大模型、搜索广告推荐、传统AI模型等场景。在S60的基础上,燧原科技还推出DeepSeek一体机,可运行满血版、蒸馏版不同尺寸的模型。
南都记者了解到,S60芯片目前已出货7万颗,在国产卡落地规模上进入前列,且覆盖到国内五大智算集群。其中,2024年12月,燧原科技在甘肃庆阳建成万卡推理集群,使用了10016张S60算力卡。
燧原科技创始人兼首席运营官张亚林介绍,公司的算力已支持腾讯诸多的互联网应用场景,并通过智算集群支撑腾讯产业生态客户的业务拓展。
天眼查显示,腾讯自2018年以来参与了燧原科技6轮融资,是其重要产业投资方。