首页 家电百科 实时讯息 常识

华为云发布CloudMatrix 384超节点,硅基流动上线对应DeepSeek-R1

0次浏览     发布时间:2025-04-10 18:31:00    

IT之家 4 月 10 日消息,在今日举行的华为云生态大会 2025 上,华为常务董事、华为云计算 CEO 张平安公布了 AI 基础设施架构进展,推出 CloudMatrix 384 超节点,并宣布已在芜湖数据中心规模上线。

据介绍,华为云 CloudMatrix 384 超节点可实现从服务器级到矩阵级的资源供给模式转变,具备“高密”“高速”“高效”的特点,通过架构创新,在算力、互联带宽、内存带宽等方面实现领先。

华为云还表示,对昇腾 AI 云服务进行持续优化,目前其已全面适配包含 DeepSeek 在内的 160 多个第三方大模型,为大模型训推提供可靠保障,支撑行业应用快速落地。此外,华为云盘古大模型已在 30 多个行业、400 多个场景中落地,在城市治理、智慧金融、医疗健康、气象预测等领域广泛应用。

IT之家注意到,硅基流动今日也宣布联合华为云基于 CloudMatrix 384 超节点昇腾云服务和高性能推理框架 SiliconLLM ,用大规模专家并行最佳实践正式上线 DeepSeek-R1。

硅基流动介绍称,该服务在保证单用户 20 TPS 水平前提下,单卡 Decode 吞吐突破 1920 Tokens / s,可比肩 H100 部署性能。同时,经过主流测试集验证及大规模线上盲测,在昇腾算力部署 DeepSeek-R1 的模型精度与 DeepSeek 官方保持一致。

相关文章