智能日报
业界资讯 智能手机 电脑硬件 平板电脑 智能手表 智能家电 耳机音频 笔记本 热点资讯

双A770显卡组队,低成本高效能部署DeepSeek R1 32B模型实测

2025-03-10来源:ITBEAR编辑:瑞雪

近期,DeepSeek R1在全国范围内迅速走红,从智能手机应用到新能源汽车,众多产品纷纷接入这一技术。对于内容编辑而言,DeepSeek R1无疑是一个强大的助手,从大纲制定到内容审阅,都能大幅提升工作效率。然而,官方满血版的DeepSeek R1虽然功能强大,但频繁掉线的问题让人头疼,平均每小时仅能稳定使用一次。第三方满血版虽然掉线较少,但用户对于上传隐私或保密数据至云端仍心存顾虑。

鉴于上述情况,不少用户开始考虑自行搭建DeepSeek R1。然而,满血版DeepSeek R1模型体积庞大,达到了404GB,远远超出了普通消费级显卡的显存容量。即便是32B的蒸馏模型,也需要20GB的显存空间。这对显卡性能提出了极高的要求,例如,拥有32GB显存的英伟达RTX 5090 D公版显卡,官方售价高达16999元,而实际购买成本往往还要高出万元。

面对高昂的硬件成本,用户开始探索经济实惠且高效的解决方案。多显卡协同工作成为了一个不错的选择,但AMD新显卡已不再支持交火,英伟达SLI技术也不支持显存叠加。幸运的是,Intel的Arc显卡不仅支持交火,而且显存可以叠加,价格也相对亲民。两张Arc A770 16GB显卡的价格大约在3600元左右,即可获得32GB的显存。本次测试选择了两张蓝戟Intel Arc A770 Photon 16G OC显卡进行交火,以部署DeepSeek R1的32B蒸馏模型。

蓝戟Intel Arc A770显卡分为8GB和16GB两个版本,本次选择的16GB版本配备了GDDR6显存,显存带宽高达512GB/s,拥有32个Xe核心,最高频率可达2400Mhz。由于采用双卡方案,主板和电源的配置也需特别注意。主板需至少具备两个PCIe显卡插槽,且每个插槽需支持PCIe 4.0 x8传输速率。电源方面,单张蓝戟Intel Arc A770 Photon 16G OC的TBP为285W,两张显卡总功耗接近600W。因此,选择了海韵1300W电源进行测试,该电源不仅能满足功率需求,还能提供两张显卡所需的4个PCIe 8Pin接口。模型部署方面,选择使用IPEX-LLM工具在Linux系统上运行,相比Windows系统,Linux系统的运行效率更高。

搭建完成后,通过另一台电脑在局域网内访问后端进行测试。在测试过程中,尽量避免对测试电脑进行截图或录屏操作,以减少对GPU资源的占用。

在性能与效果方面,本次测试使用了32B模型,要求模型编写一个包含特定功能的HTML贪吃蛇游戏。模型迅速生成了代码,两张Arc A770显卡的风扇全力运转,后端显示平均生成吞吐量稳定在26 tokens/s以上。相比之下,单张RTX 5090 D运行32B模型的性能约为46 tokens/s,而本次测试以不到两成的价格获得了五成以上的性能,表现令人惊喜。

生成的HTML贪吃蛇游戏可以直接预览运行,但在实际操作中发现,使用上下方向键会滚动网页,影响了游戏体验。因此,要求模型对代码进行修改,用A、S、D、W键代替方向键。DeepSeek R1准确理解了需求,并成功完成了修改。随后,又要求生成更为复杂的俄罗斯方块HTML代码,虽然参数量仅为32B,但DeepSeek R1生成的游戏几乎无Bug,表现同样出色。

在逻辑能力测试方面,选择了两个问题对双A770搭建的DeepSeek R1进行测试。对于“神父去世是离职还是升职?”这一令人一愣的问题,32B的DeepSeek R1能从现实与信仰两种角度出发给出分析与解释,展现出强大的逻辑能力。而对于“变形金刚应该交车险还是人险?”这一二选一的提问,DeepSeek R1并没有死板地做出选择,而是理解了变形金刚不同形态的特征,给出了两种保险都买的绝佳答案。

华为顶级旗舰价格大跳水,16GB+512GB直降2100元,为新机让路
这段时间虽然登场了很多新旗舰,但阿维觉得挺遗憾的,因为绝大多数新旗舰都只是常规升级,单纯为了启用第五代骁龙8至尊版和天玑9500,在这种情况下,甚至就连小米17 Pro系列上并不算多大创新的背屏也成为了大家津…

2025-11-15

W45周手机销量榜:苹果蝉联五周冠军,小米稳居国产首位,vivo紧随其后
每到周五可能大家都在等行业人士给出的最新一周国内智能手机领域排行榜,因为从周榜就可以分析出各品牌目前在国内生存状况。数据显示苹果还是国内排名第一的品牌,不过市场份额又滑落了一个百分点,这已经是苹果连续五周国内…

2025-11-14

高通跃龙IQ-X系列工业级PC处理器发布,为工业自动化注入AI新动力
高通跃龙 IQ-X 系列为工业自动化提供了 AI 基础设施,能够实现 AI模型移植,以及面向预测性维护、状态监测和缺陷检测等关键用例的应用开发。 该平台支持Qt、CODESYS等工业软件工具,通过高通AI软…

2025-11-14

​华为nova 15系列或用2.5D护眼直屏,标准版中框材质有变,12月难见其踪​
【CNMO科技消息】11月13日,有数码博主爆料称,华为nova 15系列大概率将采用全切2.5D定制护眼直屏,且中框材质并非全系为金属。 据CNMO了解,相比传统2D屏幕,2.5D屏幕在工艺复杂度上更胜一筹…

2025-11-13

天才少女罗福莉加盟小米MiMo团队
近日,一则科技圈的重磅消息引发广泛关注:曾参与DeepSeek-V2大模型研发的“天才少女”罗福莉,正式宣布加入小米Xiaomi MiMo团队,并表示将“全力奔赴心中的AGI(通用人工智能)”。这一消息不仅证实了此前关于她跳槽小米的传闻,更透露出小米在AGI领域的战略布局。

2025-11-13

OPPO Reno 15系列11月17日发布,首发“出圈实况拼图”功能,开启影像创作新体验
【CNMO科技消息】11月12日,OPPO首席产品官刘作虎发文称,实况照片是这个时代移动影像最动人的发明之一,并宣布OPPO Reno15系列将首发“出圈实况拼图”功能。 据CNMO了解,OPPO Reno…

2025-11-12

1899元的iPhone“袜子包”:时尚碰撞下,苹果的配件新探索
而如果你将三宅一生和苹果做个对比,会发现一种存在于潜意识上的共性:超薄手机谁都能制作,iPhone Air的精妙之处不在于薄,而在于通过超高级程度的高原主板,将机身解放出来;同理,A-POC 的意义也不在…

2025-11-12

纯eSIM版iPhone 17 Pro续航实测:综合使用时长多出49分钟,多场景表现更优
为验证 eSIM 版和实体卡槽版本在不同使用场景中的表现,GSMArena 对其进行了标准化电池续航测试。 在具体项目中,eSIM版机型在通话测试中取得 24 小时 1 分钟的成绩,比实体卡版本提升约 …

2025-11-11

双11手机选购指南:这6款“续航王者”16+512GB版,轻松应对五年使用需求
红魔11Pro是努比亚推出的电竞游戏手机,内置8000mAh单电芯第三代牛魔王大电池,续航时间长达2天2夜,在测试中也以9:06的成绩超过所有对手,排名第一。一加15内置7300mAh电池,与OPPO …

2025-11-11

中科院团队突破难题:直接键合解键合制备高质量二维半导体叠层
原子力显微镜、扫描透射电子显微镜、拉曼光谱、X射线衍射、低能电子衍射和二次谐波等表征结果显示,所制备的二维半导体叠层具有高质量、超洁净表面/界面以及晶圆级均匀的层间转角。 除进行二维半导体叠层制备,直接键合…

2025-11-11