浅析GPU通信技术(下)

  • 时间:
  • 浏览:0

2. RDMA介绍

目录

        亲们儿先来看看RDMA技术是哪些地方?RDMA即Remote DMA,是Remote Direct Memory Access的英文缩

浅析GPU通信技术(下)-GPUDirect RDMA

浅析GPU通信技术(上)-GPUDirect P2P

        本篇文章亲们儿就来谈谈GPUDirect RDMA技术,这是用于加速多机间GPU通信的技术。

浅析GPU通信技术(中)-NVLink

1. 背景

        前两篇文章亲们儿介绍的GPUDirect P2P和NVLink技术可还可以 大大提升GPU服务器单机的GPU通信性能,当前角度学习模型这样 繁杂,计算数据量暴增,对于大规模角度学习训练任务,单机时候无法满足计算要求,多机多卡的分布式训练成为了必要的需求,你这种 时候 多机间的通信成为了分布式训练性能的重要指标。