通用、特化与通用特化硬件
过去电脑图形显示对 CPU 的负担太大。于是有人给电脑装上了 协处理器,本质上是另一个 CPU。但效果有限,所以特化度更高的 GPU 也就诞生了。
GPU 因为 CUDA 核心/流处理器数量很多,并且内存访问速度很快,所以图形效率相比 CPU 具有优势。既然 GPU 能解决图形问题,理论上其他合适的问题,也能解决。
于是 20 世纪 90 年代就有人用 GPU 来破解 RC4 加密算法,以及用来创建人工神经网络。虽然实用性暂时还不高,但之后 GPU 的算力发展很快,快过摩尔定律。于是更多人注意到了 GPU 的优势,其中 Mark Harris 提出了 GPGPU 的概念,即通用 GPU。后来英伟达的 CUDA,正式让 GPGPU 得到厂商支持。
为 AI 打造的芯片:AI 加速器(NPU、TPU)也是特化硬件,但也有一点点的可能,发生类似 GPGPU 的情况。比如未来有人注意到了 AI 加速器对特定问题优势,于是当作特定问题的加速器使用。甚至重演游戏玩家买不到 GPU;人工神经网络从业者买不到 AI 加速器的情况。
#杂谈
过去电脑图形显示对 CPU 的负担太大。于是有人给电脑装上了 协处理器,本质上是另一个 CPU。但效果有限,所以特化度更高的 GPU 也就诞生了。
GPU 因为 CUDA 核心/流处理器数量很多,并且内存访问速度很快,所以图形效率相比 CPU 具有优势。既然 GPU 能解决图形问题,理论上其他合适的问题,也能解决。
于是 20 世纪 90 年代就有人用 GPU 来破解 RC4 加密算法,以及用来创建人工神经网络。虽然实用性暂时还不高,但之后 GPU 的算力发展很快,快过摩尔定律。于是更多人注意到了 GPU 的优势,其中 Mark Harris 提出了 GPGPU 的概念,即通用 GPU。后来英伟达的 CUDA,正式让 GPGPU 得到厂商支持。
为 AI 打造的芯片:AI 加速器(NPU、TPU)也是特化硬件,但也有一点点的可能,发生类似 GPGPU 的情况。比如未来有人注意到了 AI 加速器对特定问题优势,于是当作特定问题的加速器使用。甚至重演游戏玩家买不到 GPU;人工神经网络从业者买不到 AI 加速器的情况。
#杂谈