2 篇
在两节点 8 卡集群上对比三种互联方式在张量并行推理中的实际表现，以及什么规模下值得上 InfiniBand。
两台 DGX Spark 通过高速互联组成小集群，实测在张量并行与流水线并行下的可用模型规模和吞吐。