AMD Ryzen AI CPU在AI LLM和GenAI测试中击败Intel Core Ultra，借助XDNA实现低功耗且更便宜

uuu9 • 2024年3月14日 16:51 • 投稿

AMD的Ryzen AI CPU在新的AI测试中超越了Intel的Core Ultra芯片，该测试展示了LLM和GenAI工作负载。
AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png
AMD率先进入AI PC领域，去年推出了代号为Phoenix的第一代Ryzen AI CPU。此后该公司推出了名为Hawk Point的更新版Ryzen AI系列，该系列提供增强型XDNA NPU，将AI TOPS提升了60%。 AMD似乎在客户端和本地化AI工作负载的软件优化方面投入了大量工作，该公司发布的新测试表明了这一点。
AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png
在新的测试中，AMD强调在本地CPU上运行LLM，这可以通过LLama 2、Mistral AI_、code llama和RAG等一系列模型来实现。在您的PC上运行本地化的人工智能模型意味着您比线上云平台上的模型拥有更多的隐私，无需在线连接即可节省订阅费用。该公司正在进一步进入这一领域，并发布了最新指南，介绍如何设置自己的本地AI聊天机器人，可与NVIDIA Chat with RTX聊天机器人相媲美。

在性能测试中AMD使用15W的Ryzen 7 7840U APU，并将其与28W的Intel Core Ultra 7 155H进行比较。这两款芯片均运行16GB LPDDR5-6400内存和最新的驱动程序。
AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png

AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png

AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png
首先我们有Mistral Instruct 7B LLM，其中与Intel产品相比，AMD Ryzen 7 7840U CPU仅用61%的时间完成AI处理，而Llama 2 7B聊天速度甚至更快，Ryzen AI芯片在54秒内完成任务。

为简化起见，AMD Ryzen 7 7840U （15W） CPU 在LLama v2 Chat 7B （Q4 KM）中的效能提升高达14%，在 Mistral Instruct 7b （Q4 KM）中的效能提升高达 17%。 LLama v2 Chat中首次令牌速度的时间分别快了79%，Mistral Instruct 7B LLM中的First token速度快了41%。
AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png

AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png
这里需要注意两点，AMD Ryzen AI CPU不仅比更高瓦数的Intel Core Ultra CPU更快，而且它的NPU速度稍慢，为10 TOP，而Intel Core Ultra芯片为11 TOP。这甚至还没有比较 28W系列或有高达 16 个TOP 人工智能运算能力的 Hawk Point 芯片。 AMD也强调了其AI PC平台的成本优势，该平台的价格较低，起价约为899 美元（SEP），而Intel Core Ultra 155H芯片的起价为999美元（SEP）。
AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png

AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png

AMD-Ryzen-AI-Performance-Benchmarks-_-Ryzen-7-7840U-vs-Intel-Core-Ultra-7-155H-C.png
AMD Ryzen AI PC平台的优势在于已经上市一段时间了，这促使AMD对其现有和下一代CPU进行快速的AI优化。这些人工智能工作负载预计将在未来进一步调整，为预计今年稍后推出的Zen 5驱动的Strix Point系列做好准备。 Intel的Core Ultra平台也已经推出几个月了，该公司针对这一领域制定了大胆的人工智能策略。