欢迎来到沐强资讯网

沐强资讯网

“硅仙人”吉姆・凯勒吐槽英伟达 CUDA:是树沼,而非护城河

时间:2024-05-10 13:59:53 出处:热点阅读(143)

IT之家 2 月 20 日消息,硅仙人有“硅仙人”称号的吉姆吉姆・凯勒近日发布推文,表示“CUDA 是・凯树沼,而非护城河,勒吐X86 也是槽英树沼”。

凯勒在后续推文中表示:

CUDA 毫无美感,只是而非粗暴地堆砌而成。

基本上没有人会写 CUDA,护城河即便是硅仙人写了相关代码,其执行速度也不快。吉姆

这也是・凯为何 Triton、Tensor RT、勒吐Neon、槽英Mojo 孕育而出的伟达原因。

IT之家注:CUDA 工具包是 NVIDIA 为开发人员提供的一个软件套件,它让开发人员使用 NVIDIA 的图形处理单元(GPU)来运行通用计算任务,特别是那些需要大量并行处理能力的任务。

凯勒认为 CUDA 像 X86 一样,英伟达为了确保软件和硬件的向后兼容性,逐步增加功能的过程中拖慢了性能,增加了程序开发的难度。与此同时,许多开源软件开发框架可以比 CUDA 更高效地使用。

就连 Nvidia 本身也有不完全依赖 CUDA 的工具。

例如,Triton Inference Server 是 Nvidia 的一款开源工具,可简化人工智能模型的大规模部署,支持 TensorFlow、PyTorch 和 ONNX 等框架。

Triton 还提供模型版本化、多模型服务和并发模型执行等功能,以优化 GPU 和 CPU 资源的利用率。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

分享到:

温馨提示:以上内容和图片整理于网络,仅供参考,希望对您有帮助!如有侵权行为请联系删除!

友情链接: