在今年的早期時候，我嘗鮮了面向個人開發(fā)者的AI超級計算機——技嘉AI TOP ATOM。要知道，該主機尺寸僅為150mm x 150mm x 50.5mm，這對于需要在辦公桌、工作室等環(huán)境中使用的開發(fā)者來說，這種形態(tài)幾乎沒有什么部署門檻，只需要網絡和供電就行，可以說將桌面化做到了極致。

本次分享的技嘉 AI TOP ATOM 正是基于上述理念打造的個人 AI 超級電腦，它搭載了 NVIDIA 與聯(lián)發(fā)科合作設計的 GB10 Grace Blackwell 超級芯片。專為個人開發(fā)者、數(shù)據(jù)科學家及 AI 研究人員打造，打破了頂級算力必須依賴云端或大型機房的局限，在保持便攜性的同時，為本地 AI 推理與微調提供了極具彈性的解決方案。

硬件賞析及配置

▼簡單看看這臺設備吧，尺寸方面，技嘉 AI TOP ATOM 和大部分迷你主機差不多，準確數(shù)據(jù)為 150 x 150 x 50.5mm，槍灰色的金屬機身，表面沒有任何裝飾，主打沉穩(wěn)簡潔，下圖是和 Macmini M4 的對比。

▼配件方面包括主機和電源適配器，接口走的 Type-C，支持 PD3.1 快充協(xié)議，最大輸出功耗 240W，理論來說用氮化鎵充電器也能推。

▼主機正面沒有任何冗余接口，視覺上極為干練，僅點綴以技嘉英文 Logo。通體貫穿的 MESH 散熱網孔若隱若現(xiàn)，這種“全面透氣”的構造顯然是為了應對 GB10 超級芯片在高強度算力輸出下的散熱需求，確保氣流能毫無阻礙地帶走內部熱量。

▼接口配置上，技嘉 AI TOP ATOM走的是極致精簡且高效的路線。側邊集成了 4 枚 Type-C 接口（含電源輸入口）與 HDMI 2.1 高清接口，能夠滿足日常所有的外設接入與顯示需求。而 10G 萬兆網口的加入，則確保了在局域網內傳輸海量訓練數(shù)據(jù)集時的吞吐效率。

▼最右邊的則是普通用戶很少見到的 NVIDIA ConnectX-7 智能網卡。這原本是數(shù)據(jù)中心級設備才擁有的專屬組件，它支持高達 400 Gb/s 的傳輸速率，幾乎消除了數(shù)據(jù)交換的物理屏頸。更重要的是，它不僅能提供驚人的 400 Gb/s 超高帶寬與極低延遲，而且支持將兩臺 AI TOP ATOM 串聯(lián)為算力集群。利用雙機共享算力和內存實現(xiàn) 1+1>2 的性能飛躍，讓本地處理數(shù)千億參數(shù)的超大規(guī)模模型成為可能。

▼拆機還是比較簡單的，固定螺絲隱藏在機身底部的膠條下。

▼揭開底蓋后是兩根布局獨特的 WiFi 天線。在如此緊湊的空間內采取這種安置方式確實不多見，顯然是為了規(guī)避內部復雜電子元器件的信號干擾，確保無線連接的穩(wěn)定性。

▼內部的散熱規(guī)格堪稱“暴力”。為了壓制 GB10 超級芯片的驚人算力，它配備了雙渦輪（Blower）風扇陣列，搭配厚度極其扎實的散熱鰭片組。結合其全鋁合金外殼的物理導熱特性，這套散熱方案即便是在 7x24 小時的 AI 滿載訓練任務下，也能提供令人心安的冷酷表現(xiàn)。

▼尾部的散熱格柵

▼這風扇拆掉后能看到主板布局，左邊是 NVIDIA ConnectX-7 智能網卡，主要作用就是前面提到的集群擴容

▼主機核心就是這塊 NVIDIA GB10 Grace Blackwell 超級芯片，這標志著桌面端正式進入了“超級芯片”時代，優(yōu)勢方面包括:

異構計算核心： GB10 完美集成了 Blackwell GPU 與基于 ARM 架構的 Grace CPU。其中 CPU 部分包含 20 個高性能核心（由 10 個 Cortex-X925 與 10 個 Cortex-A725 組成），確保了在處理復雜邏輯與數(shù)據(jù)流時的極致能效比。

• 恐怖的 AI 性能： Blackwell GPU 配備 6144 個 CUDA 核心，并采用第五代 Tensor Core。在 FP4 精度計算下，單臺設備可提供高達 **1 PFLOPS（每秒 1000 萬億次）**的 AI 運算性能。這使得單機即可支持最高 2,000 億參數(shù)的 AI 模型。
• NVLink-C2C 互連技術： 不同于傳統(tǒng)的 PCIe 總線，該機采用 NVLink-C2C 技術實現(xiàn) CPU 與 GPU 的高效協(xié)同，帶寬高達 900GB/s（約為 PCIe 5.0 的 5 倍）。這種超高帶寬確保了在微調大規(guī)模模型時，數(shù)據(jù)傳輸不再成為瓶頸。
• 集群擴容潛力： 針對更高需求，AI TOP ATOM 支持通過集群串接。兩臺設備串聯(lián)后，可執(zhí)行高達 4,050 億參數(shù)的超級模型。結合 NVIDIA 完整的 AI 軟件棧，它為本地 AI 計算提供了前所未有的適應性。

▼右側為處理器區(qū)域，技嘉 AI TOP ATOM 采用了 128GB LPDDR5X 內存與 4TB NVMe 存儲的頂配方案。其內存帶寬達到了驚人的 273GB/s，這種極致的配比正是為了應對本地化 200B 大模型的嚴苛需求，讓復雜的 AI 推理與微調任務在本地運行變得游刃有余。

▼存儲部分，該機在主板背面配備了 4TB 三星 PM9E1 SSD（M.2 2242 規(guī)格）。依托三星 5nm “Presto” 主控與 V8 TLC V-NAND 的核心組合，存儲性能直達 PCIe 5.0 頂峰，頂部則是天線的固定區(qū)域。

系統(tǒng)體驗及算力測試

▼系統(tǒng)方面，技嘉 AI TOP ATOM 自帶經過優(yōu)化的 Ubuntu 定制環(huán)境，在保障 AI 開發(fā)兼容性的同時，內置了全套生產力工具。

不過從系統(tǒng)也能看到，該機面向的用戶群體還是有很強針對性的。

▼內置軟件從用于網頁瀏覽與查閱文獻的 Firefox，到支持工具自由擴展的應用商店，再到滿足文檔管理需求的內置辦公軟件，AI TOP ATOM 真正做到了從“開發(fā)實驗”到“通用辦公”的平滑切換。

▼應用市場

▼技嘉 AI TOP ATOM 在 AI 方面的優(yōu)勢還是很大的，主機內嵌了 NVIDIA AI 軟件棧，提供各式工具、開發(fā)框架與函數(shù)庫，以加速 AI 項目開發(fā)流程。

▼支持多種模型下載

▼其次，主機還內置了 AI TOP Utility ，這是技嘉專門為為本地 AI 訓練而生的全方位解決方案，它不僅支持高達 236B 參數(shù)規(guī)模的 AI 模型，同時直觀的 GUI（圖形用戶界面）也讓用戶上手更輕松，操作更直觀，整個的操作流程像使用普通軟件一樣簡單。

注意，這個并非開機內置軟件需要自己下載和調試。

▼同樣可以自由下載各種模型。

▼另外，技嘉的合作伙伴趨境科技提供了適配ATOM的自研大模型管理平臺，對于非專業(yè)用戶更容易上手。它內置智譜GLM-4.5-air-106B大語言模型、GLM-4.6V-106B 多模態(tài)大模型及其他主流大模型與趨境自研的推理引擎、模型運維平臺，開機即用，無需耗時配置。此外還能作為 AutoGLM 的本地后端使用。

▼然后是模型管理中，可以看到預裝的一系列AI大模型，并對其進行了整合分類。

而且 AMaaS 支持智能調整 / 檢測模型，以及查看 Token 數(shù)。

比如圖中的 GLM-4.6V-106B 千億參數(shù)多模態(tài)大模型，這是首次在模型架構中將Function Call（工具調用）能力原生融入視覺模型，打通從“視覺感知”到“可執(zhí)行行動”（Action）的鏈路，為真實業(yè)務場景中的多模態(tài) Agent 提供統(tǒng)一的技術底座。

▼部署完成后，AMaaS 的實驗場景可以對對話、文本、圖形等資料進行測試

比如選擇模型“GLM-4.5-Air-nvfp4”

對話“桌子上有 3 只朝上的茶杯，每次翻轉 2 只，能否經過若干次翻轉使得 3 只被子的杯口全部朝下呢？”

最后的結果是不可能（正確答案），每秒輸出 22.32 tokens

▼技嘉 AI TOP ATOM不僅提供強大的模型推理能力，還內置了 ready-to-use 的開發(fā)環(huán)境與實用工具，涵蓋從模型定制到智能應用的完整鏈路：

比如趨境 · 智問就是最常用的 AI 工具，它提供本地知識庫與AI對話功能，可直接管理私密科研資料與工作文檔，打造完全私有的智能辦公體驗。真正是的使用界面是趨鏡·智問，這里提供了對話、AI應用、長文寫作、知識庫等多種場景

▼比如問它“魂類游戲的定義是什么，舉例幾款典型游戲”

結果出來的很快，定義也很清晰

桌面的“超算中心”

“小體積、大算力”是對技嘉 AI TOP ATOM 最直觀的評價，但其背后的意義遠超硬件本身。

過去，涉足大模型意味著巨額的服務器投入與昂貴的算力租賃，今天，技嘉 AI TOP ATOM 將這種“大廠專利”濃縮進了一個極致緊湊的機身中。正如幾十年前個人電腦將算力從機房帶向桌面一樣，ATOM 正在降低 AI 創(chuàng)新的準入門檻。 憑借極致的能效比與穩(wěn)健的本地表現(xiàn)，AI TOP ATOM 不僅是一臺性能怪獸，更是通往“個人超算”未來的必經之路。

最新評論