家纺针织床上用品类网站模板

CUDA真是NVIDIA绝对牢不可破的生态吗?_湖北省武汉市江夏区化白见菜土特产有限公司

网站公告: 诚信为本:市场永远在变,诚信永远不变。

联系我们

咨询热线:0898-88889999

手机:13988889999
电话:0898-88889999
邮箱:admin@youweb.com
地址:海南省海口市

CUDA真是NVIDIA绝对牢不可破的生态吗?

时间:2025-06-20 09:00:17    点击量:386

有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。

没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。

比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。

CUDA已经被各种开源AI框…。

CUDA真是NVIDIA绝对牢不可破的生态吗?
【返回列表页】
地址:海南省海口市 电话:0898-88889999 手机:13988889999
Copyright © 2012-2023 某某博客 版权所有
ICP备案编号:闽-ICP备98667974号-1
网站地图