**RTX 5090 在 DeepSeek 推理性能方面超越 RX 7900 XTX**
最近公布的基准测试显示，RTX 5090 在 DeepSeek R 上的推理性能明显优于 AMD 的 RX 7900 XTX，性能提升至少一倍。
在对多个 DeepSeek R1 型号进行测试时，RTX 5090 始终领先于 RX 7900 XTX，甚至比 RTX 4090 快得多。
在 Distill Qwen 7b 和 Distill Llama 8b 模型中，RTX 5090 每秒可处理 200 个标记，几乎是 RX 7900 XTX 的两倍。
NVIDIA 最近宣布，其 NVIDIA Inference Microservices (NIM) 现在支持 DeepSeek-R1。NIM 是一种云原生微服务，简化了生成式 AI 模型在云端、数据中心和 GPU 加速工作站上的部署。
DeepSeek-R1 是 NVIDIA 开发的最先进的推理开放模型，它通过使用连锁推理、共识和搜索技术来生成最佳答案，对查询进行多次推理处理。
为了帮助开发人员安全地探索这些功能并构建自己的自定义代理，DeepSeek-R1 模型现已作为 NVIDIA NIM 微服务的预览版提供。
0 条