GPU服务器的core-to-core-latency与NUMA
GPU 服务器场中很多性能问题是 CPU 核心、内存、PCIe 和 GPU 之间的数据通路没有对齐造成的。core-to-core-latency 可量化“CPU 核心之间有多远”,结合 nvidia-smi topo -m、numactl、lscpu 等命令,可做更准确的 NUMA 亲和性、进程绑定和通信路径规划。
科技与互联网按主题浏览来自不同作者的公开文章。标签由 AI 生成,仅供分类参考。
共 1 篇文章
从新到旧
GPU 服务器场中很多性能问题是 CPU 核心、内存、PCIe 和 GPU 之间的数据通路没有对齐造成的。core-to-core-latency 可量化“CPU 核心之间有多远”,结合 nvidia-smi topo -m、numactl、lscpu 等命令,可做更准确的 NUMA 亲和性、进程绑定和通信路径规划。
科技与互联网