在即将到来或已经到来的人工智能时代，我们听到AI服务器这个词的频率很高。AI服务器是什么？为什么AI服务器适合人工智能时代？
从硬件结构来看，AI服务器主要是指异构服务器，其中大部分是基于机架的服务器。在异构模式下，您可以使用CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多加速卡。
内存模块、内存模块、网络模块等组件与传统服务器没有区别。主要改进包括：支持更大的存储容量，提供更多外部硬盘插槽，广泛支持NVME/PCIE和其他固态驱动器，以满足当前实时负载增长的需求。网络模块主要表现为带宽的增加。
尽管AI服务器可能是异构的，但CPU+GPU被广泛使用。因此，当业界谈论AI服务器时，它们基本上是GPU服务器。因此，在第二部分中，作者提到的AI服务器的优势主要是GPU服务器。
现有服务器主要使用CPU作为计算提供者。CPU是一个通用处理器，采用串行结构，擅长逻辑计算。它负责各种类型的数据处理和访问。此外，逻辑判断还需要引入大量分支旋转中断处理，这使CPU的内部结构复杂化。因此，CPU处理能力的提高主要取决于核心。
随着云计算、大数据、人工智能、物联网等技术的应用，近年来数据呈指数级增长。据IDC统计，近年来，全球90%的数据是通过CPU处理能力测试生成的。目前，CPU物理进程和内核的数量接近极限，但数据量不会停止，服务器的处理能力需要提高。因此，在人工智能时代，仅由CPU计算能力提供的传统服务器无法满足需求。
GPU与CPU不同。它使用并行计算模式。一张卡有数千个磁芯。它适用于密集型计算应用，如图形渲染、计算透视和机器学习。经过几年的验证，带有GPU的服务器也适合这个时代。
根据IDC的全球半年人工智能系统支出预测，2019年全球人工智能系统开支将达到358亿美元，比2018年增长44.0%，2022年人工智能系统的开支将翻番至792亿美元。2018年至2020年预测期的复合年增长率（CAGR）为38.0%。
该值表明AI服务器市场的普遍性。因此，世界主要服务器制造商正在充分利用AI服务器。
目前，浪潮在中国市场占有最大的市场份额，以51.4%的份额排名第一，其次是曙光和新华三。从行业分布来看，互联网是AI服务器的主要用户。对于GPU，英伟达具有明显优势。特斯拉系列产品主导人工智能基础设施市场，尤其是线下教育领域。
AI服务器中最强大的wave AI超级服务器是AGX-5。AGX-5旨在扩展深度学习和高性能计算的性能。一台机器可以在8U空间中配置16个NVIDIA Tesla V100 Tensor 32GB GPU。它有10240个Tensor核，每秒处理能力为200亿次。
