GPU直通型（GPU Passthrough）和虚拟化型（GPU Virtualization）是两种在虚拟化环境中使用GPU资源的技术，它们在实现方式、性能、灵活性和适用场景上有显著区别。以下是两者的主要区别：
1. 基本原理
GPU直通型（GPU Passthrough）
- 原理：将物理GPU设备直接分配给一个虚拟机（VM），该虚拟机独占使用整个GPU。
- 实现方式：通过IOMMU（如Intel VT-d 或 AMD-Vi）技术，将GPU的PCIe设备直接“透传”给某个虚拟机。
- 特点：虚拟机中的操作系统直接与GPU通信，如同在物理机上使用。
GPU虚拟化型（GPU Virtualization）
- 原理：将一块物理GPU的资源进行虚拟化切分，多个虚拟机可以共享同一块GPU，每个VM获得一部分GPU资源（如显存、计算核心）。
- 实现方式：依赖于GPU厂商提供的虚拟化技术，如：
- NVIDIA vGPU（如 vGPU、MPS）
- AMD MxGPU（基于SR-IOV）
- Intel GVT-g / GVT-d
- 特点：支持多租户共享GPU，资源可动态分配。
2. 性能对比
| 特性 |
GPU直通 |
GPU虚拟化 |
| 性能损耗 |
极低，接近原生性能 |
有一定开销，但现代技术已优化 |
| 延迟 |
低 |
略高（因调度和虚拟层） |
| 吞吐量 |
高（独占资源） |
可调节，取决于分配策略 |
✅ 直通型性能更优，适合对性能要求极高的场景（如AI训练、高性能图形渲染）。
3. 资源利用率
| 特性 |
GPU直通 |
GPU虚拟化 |
| 资源利用率 |
低（一个GPU只能给一个VM用） |
高（支持多VM共享） |
| 弹性分配 |
不支持动态调整 |
支持按需分配资源（如vGPU profile） |
✅ 虚拟化型更节省资源，适合云桌面、VDI、多用户推理等场景。
4. 兼容性与灵活性
| 特性 |
GPU直通 |
GPU虚拟化 |
| 虚拟机数量限制 |
每个GPU只能分配给一个VM |
一个GPU可支持多个VM |
| 操作系统支持 |
更广泛（直接驱动） |
依赖厂商驱动和授权（如NVIDIA vGPU需授权） |
| 热迁移支持 |
通常不支持（设备绑定） |
部分支持（视技术而定） |
⚠️ 直通型灵活性差，但兼容性好；虚拟化型更灵活，但依赖特定硬件和软件支持。
5. 典型应用场景
| 场景 |
推荐技术 |
| AI训练、HPC、高性能计算 |
✅ GPU直通 |
| 云游戏、虚拟桌面（VDI） |
✅ GPU虚拟化 |
| 多用户深度学习推理 |
✅ GPU虚拟化 |
| 单用户高性能图形工作站 |
✅ GPU直通 |
| 资源密集型但用户多的环境 |
✅ GPU虚拟化 |
6. 硬件与软件要求
| 项目 |
GPU直通 |
GPU虚拟化 |
| CPU支持 |
需要VT-d/AMD-Vi |
同样需要IOMMU |
| 主板/Bios |
支持ACS或拓扑隔离 |
同样要求较高 |
| GPU型号 |
多数消费级/专业卡支持 |
通常需专业卡（如NVIDIA Tesla、A系列、H系列） |
| 驱动与授权 |
标准驱动即可 |
可能需要vGPU授权（如NVIDIA） |
总结对比表
| 对比项 |
GPU直通 |
GPU虚拟化 |
| 性能 |
⭐⭐⭐⭐⭐ |
⭐⭐⭐⭐ |
| 资源利用率 |
⭐⭐ |
⭐⭐⭐⭐⭐ |
| 多用户支持 |
❌（1 GPU = 1 VM） |
✅（1 GPU = 多VM） |
| 部署复杂度 |
中等 |
高（需授权、特定驱动） |
| 成本 |
较低（无需额外授权） |
较高（vGPU授权昂贵） |
| 适用场景 |
高性能独占使用 |
多租户共享、云环境 |
结论
- 如果你追求极致性能且虚拟机数量不多，选择 GPU直通。
- 如果你需要多个虚拟机共享GPU资源，提高资源利用率（如企业云桌面、AI推理服务），选择 GPU虚拟化。
根据实际业务需求、预算和硬件条件选择合适的技术方案。
ECLOUD博客