日前据报道,在天数智芯10月28日举办的从模型到世界2026媒体开放日活动,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。
活动现场开放天垓300实机演示,接受与H200在GLM-5.3等大语言模型、文生图、文生视频场景的对比测试,天垓300整体表现均优于H200。
训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。
天垓300于今年7月世界人工智能大会上正式发布,采用天数天枢架构,集成新一代Tensor Core,配备144GB显存,原生支持标量、矢量、张量三类计算模式,覆盖FP4、FP8、FP16、BF16等多种数据精度,并支持高速片间互联。
上海仪电今年7月完成的第三方实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。
天数智芯性能实验室的实测进一步覆盖典型业务场景:
在64K长上下文下,天垓300的Attention性能为H200的1.05倍;
GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;
8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%;
多模态生成推理吞吐较H200提升约2%至5%;
在搜广推等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。
规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案,天垓300 IXL144超节点在单个标准机柜内集成144颗GPU,约10.1TB显存,每百万有效Token成本较国际主流方案可降低约40%。
© 版权声明
商娱网所有文章,如无特殊说明或标注,均来自于互联网或为商娱网用户原创发布。任何个人或组织,在未征得原作者同意时,禁止复制、盗用、采集、发布商娱网内容到任何网站、书籍等各类媒体平台。如若商娱网内容侵犯了原著者的合法权益,可联系我们进行处理。
相关文章
暂无评论...



