開箱黃仁勳的AI小電腦DGX Spark

2025年初，Nvidia共同創辦人暨執行長黃仁勳在CES之上首次展示了一款名為Project DIGITS的設備，當時筆者在報導中稱其為「AI桌上型電腦」——小身軀就達成了1 PetaFLOP FP4算力；這台設備主要針對科研人員、資料科學家、AI開發者與AI專業學生等群體。

年中這款產品更名為DGX Spark，依舊吸引了很多人的注意。Nvidia將其歸入DGX系列完全有跡可循。黃仁勳過去一年在不止一個場合提過，2016年將DGX-1樣機贈送給了OpenAI——當年OpenAI還是個名不見經傳的新創企業。那時Nvidia將DGX-1稱作「深度學習超級電腦」。

今年5月的Computex主題演講中，黃仁勳就在現場將DGX-1和DGX Spark在尺寸上做了比較(下圖)，他說這兩者的性能很相近，「相同的工作也能在DGX Spark上完成，僅僅10年不到，就有如此進步」。

DGX-1的Pascal架構版晶片配了128GB HBM2記憶體(實際上DGX-1生命週期內也有Volta版)，以及x86 CPU (Xeon E5)；以當時的技術，8顆Pascal架構的GPU提供170 TFLOPS FP16算力，功耗達到了3,200W。DGX-1伺服器為標準4U規格，重量60.8kg，價格將近13萬美元。

再看今年發佈的DGX Spark，採用GB10超級晶片(Grace CPU + Blackwell GPU)，標稱1 PFLOP FP4算力(Tensor性能)，記憶體容量同為128GB (不過是LPDDR5X)；電源供電240W (GB10標稱TDP為140W)，尺寸為150 × 150 × 50.5mm，僅重1.2kg；售價不到4,000美元。

當然，標稱算力為不同精度，且沒有不同負載專案的量化資料，加上節點互連方面的差異，不能說DGX Spark就比DGX-1更強；但上面這些都足見近10年半導體技術的跨越式進步；而且DGX Spark畢竟也是更符合這個時代AI大模型、生成式與代理式AI發展浪潮的主流設備(單設備可推理200B參數量的AI模型)。

最近，《EE Times China》拿到了一台DGX Spark，來開箱看看這台設備的真容。

極簡外包裝。	開啟上蓋就是金燦燦的DGX Spark本體。
包裝內主要就是DGX Spark設備、Quick Start說明書、240W兩段式電源適配器，從電源適配器和DGX Spark放在一起的尺寸對比，就能看出這台設備有多小。	240W輸出(48V、5A)的AC電源適配器，另一頭通過USC-C口與DGX Spark連接。

DGX Spark本體，這個設計應該是為了延續DGX家族系列的設計語言，所以看起來像是個mini伺服器——側面有個底座(下右)，應該是提倡放在桌上橫置使用：金色金屬材質外殼，充滿孔洞的正面與背面裝飾。

底面(有橡膠底座的一面)前方有條狀的散熱孔。	背面是電源開關與I/O介面；最左邊的USB-C埠——可接電源，右邊三個USB-C埠規格未知；再往右是視訊輸出的HDMI 2.1a埠，以及10GbE乙太網路RJ-45有線介面。這台設備也支援Wi-Fi 7和Bluetooth 5.4；而最右邊的大開口可藉由QSFP連接第二台DGX Spark，實現更高算力，支援更大模型的推理。

和一台14寸筆記本對比，體積的確還是相當小(150 × 150 × 50.5mm)，1.2kg的重量——你敢信它媲美當年120斤的4U伺服器？

接上電並接上顯示器、鍵盤、滑鼠後，開機。配置表中提到這款設備所用的作業系統是DGX OS；看起來應該和Jetson Linux同源，為深度客製款Ubuntu。

先前在體驗Jetson Orin Nano時就提過Nvidia此類產品在生態上的優勢，和針對開發者的開箱即用。DGX 軟體堆疊在覆蓋上顯然也會更廣，其中預裝了AI開發所需的環境、軟體、庫，包括各種底層支援、開發SDK、框架、工作流、模型、工具，諸如NIM、Blueprints、Workbench等，都可以在上跑起來。

Nvidia另外也提到，「很多用戶不會將DGX Spark接上顯示器、鍵鼠來用，借助NVIDIA Sync就能做遠端連接和使用，連接流行的IDE到DGX Spark加速開發」；同時，「如果開發者有Blackwell雲端上GPU資源，也可以與本地Spark做無縫切換：一鍵連接不同的環境，將訓練、調優、驗證過的模型和參數，在不同的環境中切換」。

最後簡單列出DGX Spark的配置規格：GB10超級晶片所用的Grace CPU為20核心版，10個Cortex-X925核心+10個Cortex-A725核心；Blackwell架構GPU標稱1 PFLOP FP4算力——GB10晶片標稱TDP為140W。128GB LPDDR5x統一記憶體，最高頻寬275GB/s——比桌上型PC獨顯方案的顯存限制，DGX Spark也因此能跑更大規模、需要更大記憶體佔用量的模型。

連接方面支援10GbE乙太網路、Wi-Fi 7、藍牙5.4 (w/ LE)、HDMI 2.1a，另外就是能體現「伺服器」血統的ConnectX-7 NIC (QSFP連接達成200Gbps頻寬)——可連接兩台DGX Spark設備，達成更高算力，實現405B參數量AI模型的推理——藉由MPI和NCCL達成多GPU的協同。

其他配置還包括，4TB NVME.M2儲存；晶片達成的多媒體支援包括1x NVENC、1x NVDEC…等。

Nvidia說DGX Spark「是CUDA架構的、原生模型開發驗證的桌旁設備」，為個人使用者「提供AI運算資源，是「個人AI雲端平台」。

本文原刊登於EE Times China網站

The post 開箱黃仁勳的AI小電腦DGX Spark appeared first on 電子工程專輯.