摘要
近期在SIGGRAPH 2023大會上，輝達（NVIDIA）的創辦人黃仁勳宣布NVIDIA的新一代人工智慧（AI）超級晶片GH200，其採用HBM3e先進記憶體技術，實現每秒5TB的資料傳輸速度，從而提升晶片的效能和速度。不僅在晶片技術領域創下新的標竿，同時也大大提升NVIDIA在處理器市場的競爭地位。隨著大型語言模型和深度學習等技術的迅速發展，對計算能力和記憶體需求不斷攀升，GH200的設計理念就是在單一系統中實現更大的記憶體容量，並具備一次性載入模型的能力，從而實現更快速的模型訓練和推理。
內文標題
一、前言
二、超級晶片帶來的衝擊與影響
三、結論