GPU那些事儿公众号文章

AMD Ryzen AI Max Pro 400系列芯片及统一内存DGX Spark、Mac Studio纸面分析

AMD Ryzen AI Max Pro 495出来了,很多人心里长了统一内存的草,但是是不是值得考虑上手,还是要对比参考一下DGX Spark与Mac Studio的。特别是Mac Studio~~~

GPU那些事儿

公众号 · 27 篇文章

Pasted image 20261011164928.png

AMD Ryzen AI Max PRO 400 Hero

主要内容:

•
1、Ryzen AI Max Pro 400系列芯片SKU
•
2. AMD Ryzen AI Max PRO 400 运行大模型须知
•
2.1. 核心框架与工具
•
2.2. 主要限制与注意事项
•
2.3. 模型兼容性概览
•
3. AI Max Pro 495 vs. DGX Spark vs Mac Studio Ultra M5


1、Ryzen AI Max Pro 400系列芯片SKU

AMD 发布了新的 Ryzen AI Max 处理器系列。作为现有 Ryzen AI Max 300 系列芯片的补充,AMD Ryzen AI Max PRO 400 家族将继续 Strix Halo 的传承,带来小幅性能提升和大幅内存容量提升——最高可与 192GB 内存搭配。基于新款 Ryzen AI Max 芯片的系统已于2026年第三季度开始出货,电商平台上已经可以看到有销售了。

Pasted image 20261011165226.png

电商平台,AMD AI Max+PRO 495 192G+2T迷你主机,约51700元(左右)报价。而现在128G的NVIDIA Spark+4T的报价约为50000(左右)

直接看硬件,AMD Ryzen AI Max PRO 400 家族是一组额外的芯片 SKU,基于 AMD 的 Strix Halo 芯片(或者按 AMD 对该家族芯片的叫法,Gorgon Halo)。这意味着我们看到的是一个高性能 SoC,将最多 16 个 Zen 5 CPU 核心与 AMD 强大的 RDNA 3.5 架构集成 GPU 结合,并由一条可观的 256 位内存总线供给。高性能 iGPU 与基于 LPDDR5X 的内存子系统的组合,使 Strix Halo 在过去一年里成为 AI 领域不可小觑的芯片,而 AMD 希望在未来一年通过一次中期更新从该芯片中再榨取一些性能。

Pasted image 20261011165438.png

AMD Ryzen AI Max PRO 400

与对应的 Ryzen AI Max 300 相比,Ryzen AI Max PRO 400 芯片在芯片时钟频率和核心配置方面只是相当小的规格提升——事实上,大多数 SKU 在这方面都没有变化。只有顶配旗舰 SKU,即 Ryzen AI Max+ PRO 495,在计算吞吐量方面提供了有实际意义的规格差异,其 CPU、GPU 和 NPU 的时钟频率都获得了小幅提升。这些提升加在一起,使其 CPU 达到 5.2GHz,而 GPU 则获得新的 Radeon 8065S 品牌标识。

Pasted image 20261011165617.png

相反,新芯片的重大变化在于内存支持:AMD 略微提高了内存时钟速度,并大幅增加了支持的内存总量,而这本来就是 Ryzen AI Max 家族的定义性特征之一。300 系列芯片最高支持 128GB LPDDR5X-8000 内存,而新的 400 系列芯片将此提升 50%,总容量达到 192GB LPDDR5X-8533 内存。随着最近 24GB(192Gbit)LPDDR5X 内存芯片的问世,AMD 迅速利用这项技术,将 Ryzen AI Max 家族本已宽敞的内存容量提升到新水平,同时将内存带宽提高约 7%,达到 273GB/秒。

由于这些芯片在本地 AI 推理系统中广受欢迎,AMD 对更高内存容量的价值主张相当直接:更大的内存池允许这些系统加载更大的模型。这些芯片可以配置为将最多 160GB 的内存池分配给 GPU(最后 32GB 留给 CPU),这足以加载一个 300B FP4 参数模型——对于任何非 Mac Studio 的单 SoC 系统来说这是首次(而且很可能不是最后一次)。

真正受限于内存容量的用户,应该会觉得额外 48GB 的 GPU 内存是一大福音。不过,基于我们迄今为止对 Strix Halo 硬件的观察,这一变化不太可能在性能上带来明显改变。由于 AMD 并未实质性地提升这些芯片的计算吞吐量或内存带宽,现有的瓶颈,例如预填充(pre-fill)性能,将保持原状。

与此同时,值得注意的是,AMD 目前只推出 PRO SKU。非 PRO 芯片不在即将推出的芯片发布之列,AMD 甚至没有确认最终是否会发布非 PRO 芯片。至少对企业客户来说好消息是,这意味着所有 Ryzen AI Max 400 系统都将提供 AMD 全套企业级管理功能。然而,这也意味着这些芯片将因该功能而带有进一步的价格溢价,从而推高系统成本,同时提升 AMD 在其最佳 AI SoC 上的利润率。

Pasted image 20261011165907.png

AMD Ryzen AI Max PRO 400 总结

这还意味着,至少就这些 PRO SKU 而言,AMD 的关注/推广重心完全在 AI 上。300 系列芯片当初是作为高端笔记本和小型化芯片推出的,具有多种用途(尤其是游戏),而 AMD 对 400 系列芯片则全力押注 AI。

2. AMD Ryzen AI Max PRO 400 运行大模型须知

统一内存之后,很多想的是,这东西可以跑大模型了~~~,可是,先等等。毕竟这不是NVIDIA家的产品,在正式出血买之后,还是需要做点“功课”的。

AMD Ryzen AI Max PRO 400系列芯片为本地运行大模型提供了强大的硬件基础,但在框架、限制和模型兼容性上有一些关键点需要了解。

2.1. 核心框架与工具

该平台拥有较为完善的软件生态,支持多种主流框架,可以根据自己的需求选择:

•
官方软件栈:AMD提供了 Ryzen AI Software,这是最底层的支持,它基于 ONNX Runtime GenAI (OGA) 和 llama.cpp 构建,能让你直接调用NPU和GPU的算力。
•
主流AI框架:平台兼容 PyTorch、vLLM、llama.cpp、Ollama、ComfyUI 和 LM Studio 等广受欢迎的工具。其中,vLLM 需要 ROCm 7.0.2 或更高版本的支持。
•
专用工具:AMD还推出了 EXTENSOR 软件包,专门为Ryzen AI Max平台优化,旨在高效部署大语言模型(LLM)和混合专家(MoE)模型。
•
开发接口:可以通过 Python API、REST API(便于集成)或 C++ API 进行开发。

2.2. 主要限制与注意事项

尽管硬件强大,但在实际部署中仍需注意以下几点:

•
内存是核心约束:模型能否运行,首要限制是统一内存容量。该平台最高支持192GB统一内存,其中最高160GB可分配给GPU作为显存。要运行大模型,通常需要4-bit量化来压缩模型体积,例如,运行320B参数的模型就需要4-bit量化。
•
NPU的驱动与平台支持:NPU(神经网络处理单元)的发挥依赖于特定的驱动。目前,在Linux平台下,NPU的支持尚不完善,主线的Linux内核可能无法识别该NPU,需要特定的驱动补丁或等待官方更新。在Windows下使用则需要确保安装了正确的NPU驱动(如版本32.0.203.280)。
•
模型兼容性并非100%:并非所有模型都能直接运行。官方有明确的支持模型列表,主要涵盖Llama、Mistral、DeepSeek、Qwen、Gemma、Phi等系列。一些新模型或特定架构的模型可能暂不支持,例如在当前的Ryzen AI 1.8版本中,Qwen2.5-14B和Qwen3-14B等模型就明确不被支持。
•
执行模式选择:平台支持NPU独占、NPU+iGPU混合、GPU独占和CPU四种执行模式。可以根据对性能、功耗和延迟的需求,通过设置执行策略(如 PREFER_NPU)来选择合适的模式。

2.3. 模型兼容性概览

以下是官方明确支持的部分主流模型架构,可以此作为参考:

模型系列
支持情况
Llama
Llama-2, Llama-3, Llama-3.1-8B 等
Mistral
支持
DeepSeek
DeepSeek Distill 模型(如 DeepSeek-R1-Distill-Llama-8B)
Qwen
Qwen-2, Qwen-2.5, Qwen-3 等
Gemma
Gemma-2, Gemma-3
Phi
Phi-3, Phi-3.5, Phi-4
GPT-OSS
GPT-OSS-20B

总的来说,AMD Ryzen AI Max PRO 400系列为本地大模型部署提供了一个极具潜力的平台,尤其适合需要大内存、高隐私性的企业级应用。但在上手前,建议先查阅AMD官方的LLM部署文档和模型兼容性列表,确认目标模型和执行模式是否在支持范围内。

3. AI Max Pro 495 vs. DGX Spark vs Mac Studio Ultra M5

提到了统一内存,其实最最让我直接想到的就是Mac Studio Ultra M5(据说512G统一内存的版本将在2026年10月底发售)。然后当然,在AI中的霸主NVIDIA的DGX Spark(当然,现在硬件上涨之后,刚刚推了一款阉割内存64G版)。加上AI Max Pro 495,这个阵营现在变更更热闹了。

它们的核心差异体现在以下三个方面:

•
峰值算力最强的是 DGX Spark(FP4 稀疏 1 PFLOP),但其标称的“1 PFLOP”与 AMD 的“131 TOPS”精度不同,无法直接横向比较。
•
内存带宽最高的是 Mac Studio M5 Ultra,达到 1.2TB/s,是另外两台(均为 273GB/s)的 4.4 倍。由于大模型推理主要受带宽限制,这使得它在运行超大模型时具有压倒性优势。(这一点,我个人异常看重!要知道RTX 5090带宽为1.792TB/s,可以作为参考!)
•
多操作系统支持最好的是 AMD 495,其采用 x86 架构,支持 Windows 与 Linux,且能分配 160GB 显存。

如果花我自己的腰包,从保值率、生态、性能及低功耗的角度,我个人大概率会选Mac Studio Ultra M5(低配96G统一内存约5.6万)~~~

如果从私有化大模型推理省心的角度,那我可能选DGX Spark。如果花的不是自己的钱(例如单位的钱~~~),那么,愿意折腾,追求性价比,AMD其实也是可以的,就冲着160GB大显存去,也还是可以考虑的。


前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →