- NVIDIA A100：基于A(yíng)mpere架構，擁有6912個(gè)CUDA核心，配備40GB或80GB的HBM2E高帶寬存儲器。其浮點(diǎn)計算能力達到19.5TFLOPS（FP32）和156TFLOPS（TensorFloat - 32），在BERT模型的訓練上性能相比V100提升6倍，推斷時(shí)性能提升7倍。適用于大規模的人工智能訓練和推理、科學(xué)計算、數據分析等任務(wù)。
- NVIDIA H100：采用Hopper架構，擁有18432個(gè)CUDA核心，配備高速的HBM3顯存，80GB內存，內存帶寬為3.35TB/s?？蓪⒋笮驼Z(yǔ)言模型的速度提高30倍，配備第四代Tensor Core和Transformer Engine，在大規模Transformer模型訓練效率上比Ampere架構提升顯著(zhù)。專(zhuān)為大規模AI和高性能計算（HPC）設計，適用于大規模AI訓練和推理、科學(xué)計算和模擬、數據中心和云計算等領(lǐng)域。
- NVIDIA H200：基于NVIDIA Hopper架構，是H100的升級產(chǎn)品，擁有141GB HBM3e內存和4.8TB/秒的帶寬。在大模型Llama 2、GPT - 3.5的輸出速度上分別是H100的1.9倍和1.6倍，在高性能計算HPC方面的速度達到了雙核x86 CPU的110倍。針對于超大規模的大模型訓練和推理，可增強生成式AI和高性能計算（HPC）工作負載。
- NVIDIA A800：性能稍低于A(yíng)100。擁有10752個(gè)CUDA核心，內存帶寬是1935GB/s。最大功耗300瓦，加速各種工作負載，例如人工智能培訓、人工智能推理、高性能計算等。
 
此外，NVIDIA L40S在A(yíng)I訓練方面也有出色表現，搭載4片L40S的系統性能是搭載8片A100系統的1.7倍。