1. 核心结论

• GPU 是 AI 模型训练和推理的核心硬件
• 了解 GPU 型号、显存、算力对资源规划很重要
• NVIDIA A100/H100 是主流的训练和推理 GPU

2. 基础概念

GPU：图形处理单元，AI 计算的核心硬件 显存：GPU 上的高速内存，决定能运行的模型大小 算力：GPU 的计算能力，影响训练和推理速度 CUDA：NVIDIA 的 GPU 计算平台和开发工具

3. 实战场景

• GPU 资源规划
• 模型训练
• 推理服务部署
• 成本预算

4. 关联笔记

• 推理加速
• 本地模型部署
• AI基础设施选型