工控網首頁
>

新聞中心

>

業界動態

>

大模型一體機塞進這款游戲卡,價格砍掉一個數量級

大模型一體機塞進這款游戲卡,價格砍掉一個數量級

2025/4/10 13:42:24

來源:量子位 作者:金磊 夢晨

家人們,你知道近段時間大火的各種大模型一體機,里面到底是什么卡嗎?

相信很多小伙伴的第一反應,或許就是N卡。

但在我們接觸、體驗了真實的大模型一體機之后,發現了一個大寫的“萬萬沒想到”:

QQ20250410-134307.png

沒錯,里面也可以是英特爾的銳炫? 顯卡!

那這性能到底能不能跟上呢?

帶著這個問題,在體驗之余,我們還“抓”來了一個正在為這種一體機開發方案的軟件公司進行了一番“盤問”。

這家公司叫飛致云,主要是把大模型一體機用在了自家的MaxKB上(一款基于大語言模型的知識庫問答系統)。

他們是把4張銳炫? A770顯卡和2張N卡放到一起,做了一下對比測試:

QQ20250410-134348.png

但是!

買半張N卡的錢,就能輕松搞定4張銳炫? 顯卡。

由此,飛致云給出了這樣一個結論:

QQ20250410-134411.png

QQ20250410-134423.png

一個“性價比”關鍵詞,道破了為什么大模型一體機里面會出現英特爾游戲卡。

畢竟之前企業要私有化部署一個目前最流行的DeepSeek一體機,那個價格可是動輒便破百萬元

但現在,英特爾靠著自家的游戲卡,把這個價格直接就砍掉一個數量級。

因此,現在的大模型一體機,有了另一種更高性價比的選擇。

而且有一說一,除了一體機本身,若是聚焦在AI推理的任務上,現在可以說是處處都有銳炫? 顯卡的影子。

##搞AI推理,請記住全新英特爾GPU+CPU組合

首先要說明的一點是,搞大模型一體機,英特爾靠的不僅僅是自家游戲卡那么簡單。

它的背后其實是一記組合拳的模式:

英特爾銳炫? 顯卡 + 至強? W處理器

QQ20250410-134551.png

銳炫? 顯卡在這里面的角色不用多說,主要是推理的“加速器”。

而至強? W處理器不僅能充當“大腦”的角色,來負責通用計算與系統協調,還能在一些開源軟件平臺,如KTransformer或英特爾自己開發的工具,如FlashMOE的幫助下,與顯卡協作進行異構加速,例如在DeepSeek中承擔一些稀疏MOE的處理工作。

為了充分發揮銳炫? 顯卡的能力,英特爾通過優化顯存帶寬(如A770卡間通信達20G/秒)和低時延技術(如內存拷貝優化),解決了多卡并行時的性能損耗問題,提升了吞吐量(如70B模型支持12路實時聊天)。

即便對于不同規模場景,英特爾也能做到適配——從供AGI開發人員使用的工作站(2卡)到裝載4卡或8卡的大尺寸一體機,能滿足多樣化且差異化的需求。

QQ20250410-134620.png

例如我們剛才提到的飛致云的MaxKB,在知識問答、智能客服、內容生成、文檔合規檢查等場景中就實現了效率提升、成本優化和風險控制。

同時依托高性能硬件解決了AI模型私有化部署與算力需求問題。

除此之外,我們發現還有好多企業都在選擇構建英特爾這對CPU與GPU組合的一體機系統、軟件或整體解決方案。

超云,便是其中之一。

QQ20250410-134710.png

超云基于英特爾的平臺,打造了三種不同形態的設備。

例如適應普通辦公環境的塔式工作站、小型液冷一體機,支持包含英特爾銳炫? 顯卡在內的2-4張GPU卡。

再如最高可配8卡的大尺寸高端一體機,可運行32B-70B參數規模的大模型。

據了解,所有這些機型都已經投入到了實際使用當中,主打:

· 企業內部AI助手:超云自身使用開源模型搭建知識庫系統,實現自動化報價、報銷審批;

· 金融行業智能投顧:基于32B蒸餾模型,提供實時數據分析與投資建議;

· 海量文檔處理:使用智能OCR+大模型,實現公文自動歸檔與檢索。

與之類似的還包括云尖

它推出邊緣推理工作站,可支持4張GPU卡,適用7B-32B輕量化模型,可以滿足文檔OCR、智能質檢等企業本地化AI應用。

此外,已經pick英特爾平臺的一體機解決方案還有很多,未來可能還會有更多,而如此多合作伙伴的一致選擇,也就不難從側面印證一點:

不論是單純的AI推理應用,亦或是融合了推理及各種可視化生產力應用的復合場景,英特爾這套組合拳,已然成為了一種業界公認的、高性價比的新選項。


QQ20250410-134743.png

QQ20250410-134803.png

QQ20250410-134820.png

##一體機,為什么紛紛選擇英特爾平臺?

自春節前DeepSeek-R1驚艷亮相,經過兩個多月的沉淀,從行業落地情況來看,明顯呈現出一個趨勢:

越來越多的企業選擇以一體機的形式將DeepSeek融入業務。而這一趨勢,也在影響其他大模型落地的“姿式”。

而部署速度快,正是這一趨勢得以率先顯現的原因。

一方面,得益于一體機開箱即用且方便為各垂直行業深度定制化的特點,預裝模型、優化軟硬件協同,讓企業無需自行復雜調試。

另一方面,啟動成本低的優勢讓企業能先用一體機把大模型跑起來,再慢慢迭代。

當然,對于眾多企業而言,在選擇一體機時,除了追求速度優勢之外,實際上還有著更多深層次、全方位的考量因素,這些因素綜合起來影響著企業的決策:

·性能與成本更平衡,運營成本降低

一體機可實現性能與成本的精妙平衡,其憑借強大高效的硬件配置和優化的軟件系統,為企業提供穩定高效算力,滿足業務需求,避免使用云算力的持續費用,降低運營成本。

·運維簡化

傳統 IT 系統由多種硬件設備和軟件系統組成,運維管理復雜繁瑣,企業需投入大量人力、物力和時間進行安裝、配置、維護和更新。而一體機將軟硬件深度集成為統一整體,簡化了運維流程,企業統一管理維護即可應對業務需求和技術挑戰,運維效率大幅提高,而管理難度和成本都顯著降低。

·穩定可靠

對AI業務而言,連續性和穩定性很重要。一體機軟硬件經嚴格集成測試與優化,能在復雜環境長時間穩定運行。同時可以專機專用,避免云服務在高峰期造成速度和可用性上的波動。

英特爾所推出的銳炫? 顯卡與至強? W處理器的組合,正是一套滿足以上因素的極具潛力的解決方案。

QQ20250410-134916.png

像這樣的配置,不光能夠很好地支持DeepSeek R1系列,同時還與Qwen、Baichuan、Llama等多個開源模型兼容適配。

這意味著在不同的應用場景和業務需求下,這個組合都能靈活應對,為企業帶來多樣化的選擇和更豐富的功能體驗。

QQ20250410-134940.png

這些選擇,這些體驗,目標都只有一個,那就是AI普惠或者說AI無處不在!

站在歷史的角度,一體機要承擔的使命,正是要將強大的AI模型引入各行各業,這與計算機從大型機時代發展至個人計算機(PC)時代的進程類似。

包括DeepSeek在內的大模型前沿創新企業選擇開源,是激發這一進程的起點,而整個進程能否迅速演進,就要靠全行業的共同參與了。

英特爾在此時,就像穿越回了上世紀80年代,那時它曾憑借開放架構和高性價比方案重新定義了PC,并拉著全球的合作伙伴們一手促成了PC真正意義上的“個人化”普及,而今,到了在AI世界復刻這一成功經驗的時候了。


審核編輯(
李娜
)
投訴建議

提交

查看更多評論
其他資訊

查看更多

美的威靈汽車部件北美制造新基地啟動

深耕十二載 興泰達開啟高質量發展新篇章

從元器件到測試系統:Pickering品英集團55年為用戶構建自動測試全生命周期降本增效生態

專為智能制造與邊緣計算而生!研華AIMB-292高性能工業主板助力行業新突破

奇點創新公司宣布成立:聚焦工業自動化和數字化,已與世界 500 強客戶成功合作