华为昇腾910C AI推理性能达NVIDIA H100 60% DeepSeek已验证

2025年02月05日 09:58 次阅读 稿源:快科技 条评论

DeepSeek的硬件设施虽然没有公布详细情况,但普遍认为大量使用了NVIDIA AI芯片,包括H100、H800、H20等不同型号,但根据最新曝料,DeepSeek也验证了华为最新的AI芯片——昇腾910C。

昇腾910C是在2024年晚些时候被曝出的,据称已向部分客户批量供货,包括阿里巴巴、百度、腾讯登巨头,首批大约7万颗,平均每颗仅2万元左右。

消息显示,昇腾910C采用了中芯国际的7nm工艺制造,chiplets双芯片整合封装,晶体管数量达530亿个,整体国产化率已达55%左右。

它可以平替NVIDIA H100,同样用于大规模的AI训练和推理,FP8、FP16、FP32、FP64等不同数据类型下均有不俗表现。

昇腾910C

按照最新说法,DeepSeek团队的实测数据显示,华为昇腾910C在AI推理中的表现出乎意料地好,已经达到NVIDIA H100芯片的60%左右。

更进一步地,通过手写CUNN内核和优化,昇腾910C的性能还可以进一步提升。

据称,DeepSeek从第一天起就支持华为昇腾芯片,并且自主维护PyTorch仓库,只需一行代码就能将CUDA转换为CUNN,性能优化的潜力也相当巨大,通过定制优化可达到更高性能。

不过需要注意的是,目前已知的只是昇腾910C AI推理性能很优秀,但是AI训练性能可能还是不够理想。


昇腾910

我们在FebBox(https://www.febbox.com/cnbeta) 开通了新的频道,更好阅读体验,更及时更新提醒,欢迎前来阅览和打赏。使用教程

对文章打分

华为昇腾910C AI推理性能达NVIDIA H100 60% DeepSeek已验证

1 (50%)
已有 条意见

    最新资讯

    加载中...

    编辑精选

    加载中...

    热门评论

      Top 10

      招聘

      created by ceallan