是什么

CUDA(Compute Unified Device Architecture)是英伟达于 2007 年推出的并行计算平台与编程模型。它提供一套接口和工具,让开发者能用熟悉的编程语言把通用计算任务交给 GPU 执行,而不必局限于图形渲染。围绕 CUDA 还形成了 cuDNN 等大量加速库,覆盖深度学习、科学计算等领域。

为什么重要

CUDA 把 GPU 从图形专用芯片变成了通用并行计算引擎,为后来的深度学习浪潮奠定了软件基础。经过多年积累,主流 AI 框架与海量代码、人才都深度绑定在 CUDA 之上,迁移成本极高。这种软件生态层面的锁定,被普遍视为英伟达最坚固的护城河,其价值甚至不亚于硬件本身。

与五层蛋糕的关系

CUDA 处在「五层蛋糕」中「芯片」层与「模型」层之间的衔接位置。它是把英伟达硬件算力暴露给上层开发者的软件桥梁:正因为有 CUDA,「模型」层的研究者才能方便地驱动「芯片」层的 GPU。这层软件黏合,让芯片层的优势能够顺畅传导到模型与应用层。