从部署到使用:一文看懂如何用锐龙AI PC搭建腹地化DeepSeek大模

发布日期:2025-02-18 12:04    点击次数:83

东谈主工智能行使落地,是陪伴AI PC行业发展的主旋律。AMD、NVIDIA、英特尔这些上游芯片厂商搭出硬件台子,当然需要有东谈主登台唱戏,这么智商够让AI PC的发展步入快车谈。

2025开年,DeepSeek成为了让全寰宇瞩指标登台者,且倍受行业和用户认同。然而关于寰球用户而言,如何将DeepSeek部署到我方的AI PC成立上?现时AI PC硬件能否胜利营救大容量数据模子?

今天我们就来聊聊这些问题。

·AMD哪些硬件营救DeepSeek R1大模子?

前几天,AMD发布了DeepSeek R1 Distill推理模子可被行使于AMD Ryzen AI处理器和Radeon显卡上的博客,并公布了对应的处理器型号、内存需求、显卡型号,以及相应的DeepSeek R1 Distill大模子的规格,具体如下:

行动现时备受认同的前沿推理模子,DeepSeek R1照旧被索求成为功能苍劲的袖珍模子,算力需求本钱低,恶果好,而且部署起来相当浅近。

·测试平台硬件配置信息

本次我们使用LM Studio这款软件对DeepSeek R1进行了腹地化部署,所使用的硬件平台配置如下:

CPU:AMD锐龙AI 9 HX PRO 375

GPU:AMD Radeon 890M iGPU

内存:64GB LPDDR5X

硬盘:2TB PCIe 4.0固态硬盘

系统:Windows 11 24H2(26100.2161)

推理模子是一种新式的大型谈话模子(LLMs),通过链式想维(CoT)推理来惩办高度复杂的任务,其代价是反适时辰较长,而且它关于GPU、内存性能的条目极高。

此次我们使用的AMD锐龙 AI 9 HX PRO 375平台莫得配备独显,但既然AMD博客里提到锐龙AI HX 370/365这个品级的处理器可以营救DeepSeek-R1-Distill-Qwen-14B规格的大模子,那么锐龙 AI 9 HX PRO 375当然也能够胜任这项任务。

接下来,我们望望如安在我方的AI PC上部署一个能够在不联网情况下也能使用的“DeepSeek AI助手”,同期也望望莫得独显的AMD锐龙平台AI PC在使用DeepSeek R1 Distill进行推理时会有若何的阐述?

·如何部署一个腹地化的DeepSeek行使环境

「先期准备」

在运行部署DeepSeek R1之前,我们需要先作念两个准备:

其一,升级驱动治安。将AMD Software:Adrenalin Edition升级到25.1.1及以上版块。【点击此处投入官网驱动治安下载页面】

其二,下载LM Studio软件。目下最高版块为0.3.9。【点击此处投入官网下载LM Studio软件】

升级驱动并装置好LM Studio软件之后,需要重启电脑以使驱动治安收效。

「模子下载」

接下来让我们发扬运行将DeepSeek R1 Distill部署到我们的AI PC上。

第一步:大开LM Studio软件之后,我们可以径直点击右上角跳过带领界面。

第二步:点击右下角齿轮图标,或者径直「Ctrl+,」快捷键大开行使治安竖立界面。这里你可以将界面谈话养息为华文。同期下拉荡漾条找到Use LM Studio's Hugging Face Proxy选项,并在其左侧的方框里打勾选中。之后即可关掉行使治安竖立界面。

第三步:找到主界面左侧放大镜图标,也即是「发现」按钮,并点击大开模子搜索界面。

第四步:在搜索栏搜索「DeepSeek R1 Distill」联系的要道词。比如我们要下载「DeepSeek-R1-Distill-Qwen-14B」以及「DeepSeek-R1-Distill-Qwen-7B」两个大模子,径直搜索要道词,并找到对应大模子之后,点击右下角绿色的Download按钮,即可下载相应大模子。同期在弹出的下载界面里可以看到下载进程。此外,AMD官方保举将通盘Distill运行在Q4_K_M量化样式,是以鄙人载模子时需要从右侧细则栏中证据该模子是否是Q4_K_M量化样式。

「使用」

第一步:大模子下载完成之后是不需要进行任何装置部署操作的,此时我们径直点击主界面黄色的聊天按钮,即可投入聊天界面。

第二步:在发扬使用DeepSeek R1 Distill之前,我们需要作念的是点击聊天界面正上方的「遴荐要加载的模子」下拉菜单,此时可以看到刚才下载好的模子称呼,同期确保「手动遴荐模子加载参数」前边的方框处于勾选景况。

第三步:遴荐大模子之后会弹出竖立菜单,炒股的这里我们把「GPU卸载」的条拉到最右侧,其它选项按需设定即可。

第四步:之后点击右下角的「加载模子」按钮恭候模子加载实现,即可使用DeepSeek R1 Distill大模子了。

·锐龙AI PC能否胜利运行DeepSeek?

终末我们望望锐龙AI PC能否胜利在腹地运行DeepSeek?同期也可以望望它的运行速率到底若何?

在与DeepSeek进行交互时可以看到,这项行使对GPU资源的占用相当高,险些达到了100%,同期在内存占用方面会跨越20GB,是以豪爽的8GB、16GB内存运行起来就相当接力了。另外处理器的占用相当低,一般不到10%。

测试平台所搭载的GPU是AMD Radeon 890M iGPU,运行7B和14B限度的DeepSeek R1 Distill Qwen大模子实测是莫得任何问题的,不外速率比较稳固显卡当然是会慢上不少。但集成显卡AI PC能够在腹地借助硬件算力跑起来14B限度的大模子,这在以往是难以想像的,可见Ryzen AI在算力方面的保险是极为出色的。

我让DeepSeek帮手编写了一段“通过Enum陈列消灭标签或一系列常量的聚积”的代码,使用的大模子是DeepSeek-R1-Distill-Qwen-14B(7B精度相对比较低),前序的想考推理流程耗时为57.95秒,不算快,但研讨到我们使用的锐龙平台唯有集成显卡,这个速率以硬件为参照坐标来说,其实照旧是极度快了。

在完成通盘这个词推理互动流程之后可以看到,首个token生成时辰为1.59秒,每秒可生成4.59个token,计较为907tokens。笔者粗略看了一下生成的谜底,何况求教了治安员共事,DeepSeek给出的谜底相当准确。

此外,笔者还尝试让DeepSeek撰写了条记本居品的评测剧本,分析了2025年PC商场发展趋势等等。合座来说前序想考推理时辰基本在45秒-2分钟以内,有着可以的遵守。这讲明AMD Ryzen AI平台运行腹地化的DeepSeek大模子是总共可行,且领有可以体验的。

·结语

AI PC在资历了一年多的高速发延期之后,所濒临的主要问题即是穷乏“杀手级”行使,以及用户自主部署腹地化AI行使时有着较高的门槛。反倒是在硬件端,其实AMD、NVIDIA这些厂商齐照旧提供了富饶苍劲的算力营救。

2025开年DeepSeek的爆火,让更多寰球用户意志到了现时东谈主工智能是什么、若何用,基于这一大模子所打造的AI行使,并不需要相当雄壮的算力营救。尤其是通过本篇著作中测试就可以看出,AMD锐龙AI 9 HX PRO 375平台在仅有Radeon 890M iGPU的情况下,就能够在腹地胜利且相对畅达地使用DeepSeek-R1-Distill-Qwen-7B/14B这么限度的大模子,足见锐龙AI PC是总共可以动听现时AI行使算力需求的。

此外可能有一又友会问,“为什么要部署腹地化的AI?”

这个问题的谜底其实用两个中枢词就能抽象——安全和便利。

腹地化AI行使一方面为用户提供了无与伦比的精巧性和安全性;另一方面又带来了可以的便利性,它让用户在莫得汇聚的情况下也能够借助AI提高责任、学习遵守。此外,相关于目下基本齐要付费智商使用的AI行使来说,腹地化部署的AI使用本钱当然也更低。从AMD官方公布信息可以看到,目下单纯使用非独显的锐龙处理器平台,最高就可以营救到DeepSeek-R1-Distill-Llama-70B超大限度的大模子使用,这确实可以说是“黑科技”了。

(9490672)