AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化

zhiyongz 阅读: 2025-02-05 09:36:29 评论:0

快科技2月5日消息,AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上,该模型旨在与SGLang一起实现最佳性能。AMD表示,DeepSeek V3是目前最强的开源LLM,甚至超过了GPT-4o。AMD还透露,SGLang和DeepSeek团队通力合作,使DeepSeek V3 FP8从首发当天就能在英伟达和AMD GPU上运行。

AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化

此外,AMD还感谢了美团搜索与推荐算法平台团队以及DataCrunch提供GPU资源。DeepSeek-R1大模型自发布以来,短短几天内便登顶中美两区苹果应用市场免费榜榜单,包括亚马逊、微软在内的科技巨头宣布接入DeepSeek模型。曾经扬言要起诉DeepSeek的OpenAI也改变口风。OpenAI首席执行官奥尔特曼在东京表示,OpenAI没有起诉DeepSeek的计划,“公司将继续打造出色的产品,并以模型能力引领世界,我认为这会很棒”。奥尔特曼同时赞扬DeepSeek“无疑是一个令人印象深刻的模型”,并对有了一个新的竞争者表示高兴。

AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化


部分内容源于互联网,请仔细甄别真实性!如涉及关于钱的内容,更请谨慎对待!网址:https://tashuo.net/articles/57546.html

可以去百度分享获取分享代码输入这里。
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

发表评论
搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容