RTX Spark 的戰場不在客廳,在工廠

9 min
NOTE

這篇文章是我2026年Computex看展幾天後的一點小心得,裡面說的時間點跟產品都是當時資訊,日後看到這篇文章如果我說的是對的,就不是後見之明呦,哈。

COMPUTEX 終於來到了最後一天。一如以往,我終於可以從每天喝的痛與快樂中脫離了。

這幾年的 COMPUTEX,不知道是人老了看過的東西多了,還是我執變的越來越重。除了看看老朋友,陪陪客戶外,很少有啥題目讓我眼睛一亮。

不是沒有新東西,而是滿場的 NVIDIA 供應鏈軍火展示。大廠商在賣 NVL72、機櫃、水冷、電源管理或一條龍服務;中廠商在賣 GPU Server、水路快接頭;小廠商賣賣 Jetson 開發版跟應用,產值巨大但視覺疲勞。

印象中的 COMPUTEX 是要百花齊放,千奇百怪的。就像年輕時候的光華商場,各式各樣的電子小玩具,連 CD-ROM 都有各式各樣不同功能取向的產品,讓我不知道怎麼選。

不過今年 NVIDIA 新發表的 RTX Spark,卻讓我從一開始看不懂到底在玩啥,到後來越想越覺得是個有搞頭的東西。而且我覺得有趣的地方,跟 NVIDIA 自己的第一波行銷手法不太一樣,所以寫了這篇猜想來分享一下。

結論先說,我強烈的認為,RTX Spark 的價值,不在消費 AI PC,而在場域邊緣 AI 整合盒。

先來說說當初我為何看不懂它

RTX Spark 一開始在 GTC 亮相的時候,它的行銷用詞跟定位非常清楚,這並不是一台新的工程師玩具,而是一台要讓消費者或創作者使用的 AI PC。

但是我不買單。

不買單的原因並不是因為我是 AI 懷疑論者(並不是,我每個月交了不少 AI 稅給大頭們,哪位好漢有折扣碼或是新產品要試用,我願意當白老鼠),或是覺得技術有缺陷。而是我不知道需求在哪?

我一直覺得現在並不是 AI PC 走入消費端的好時機。原因很簡單,消費端並沒有治理問題。除了嘗鮮或是研究,家用電腦並沒有明顯的本地自建 AI 的需求(當然,偉大的工程師同僚會出來抗議);各類的 SaaS 廠商也會用盡方法把我們這塊肥肉綁在雲端的 token 計費上。(想想 Office,現在單機版多難買。)

Windows on ARM 已經失敗過三次

更何況,在我記憶中,「Real」Windows on ARM 已經失敗過三次。

那台還躺在我家抽屜的 Surface RT,是我記憶中第一次的嘗試,在 2012 年由微軟跟 NVIDIA 聯合出品。那是一台純 32 位元的 ARM,所有的 app 都是專用的,不能跑 Windows 的桌面程式,在這樣的限制下,當然就無疾而終了。

抽屜裡的 Surface RT、翻蓋手機與 CD,角落放著一盒痛風藥

第二次是微軟跟高通聯合戰線,主打「永遠連線」的輕薄筆電,可以跑 Windows 的桌面軟體了。但初期只能模擬 32 位元程式,主流的 64 位元 app 要等好幾年後才跑得動;補是補上了,相容性卻一直一堆問題。那時候合作的高通的窗口都不想聊這個東西,哈。

第三次就是這一兩年的 AI PC 浪潮,依舊是微軟跟高通這對哥倆好。雖然這次軟體成熟度大增,還拉了 Acer、ASUS、Dell 等一線大廠助陣,但熱鬧歸熱鬧,終端銷量依舊沒被真正帶起來。

記憶體頻寬餵不飽那些 PetaFLOPS

所以當我看到 GTC 時老黃說「Every single application that Windows has ever run」的時候,完全打動不了我。

然後看了一下規格,雖然說跟 Apple Silicon 一樣是統一記憶體架構,也有 128GB 的選項。但是,記憶體頻寬還是 300GB/s,那不就跟現在在 Mac 上跑 LLM 遇到的問題一樣嗎,模型裝的下,但是跑不動,更別說那漂亮的 PetaFLOPS,怎麼可能餵的飽?(是的,我知道 MoE 模型,我也知道 DeepSeek,但這是瞄準消費者使用的產品呀。)

去年的 DGX Spark(大家都懷疑是同一顆 GB10),經過實測,受限於記憶體頻寬,70B 的模型也只能一秒跑幾個 token 罷了。

轉折:一通來自工廠的電話

懷疑與抱怨說完了,事情就該迎來轉折了。不然這篇文章就可以不用分享了,哈。

在我逛展的時候,接到了最近在幫他家工廠導入機聯網跟 AI 落地的朋友電話,一邊聊遇到的問題,一邊跟他說分享我在展場看到了啥(附帶一提,今年我沒看到太多 Show Girl,有點奇怪)。聊著聊著,突然覺得,如果不是用消費產品的角度來看 RTX Spark,而是從場域應用的方向來看,我覺得它很有搞頭。

AI 落地真正難的地方

要把 AI 運用到真實的應用場域,到今天還是個麻煩的事。

用雲端服務?老掉牙的資料隱私就算了,反應慢,串聯麻煩。對使用情境固定,對使用者少但希望快速反應的場域來說,雲有點難辦。

改用地端設備?設備貴是個問題,但不大;要如何伺候,連結與部署這些設備,頭就痛了。用 Jetson 來實作當然比一台 PC + GPU 來的簡單好顧,但多個任務要怎麼同時工作?多個 Jetson 又要如何通訊整合?

這些問題都有辦法克服,但都花時間人力,要維持運作也要花心力,所以對很多場域來說,最後就是花了錢佈建,但是最後變成蚊子工程,反正情感上工人智慧不會輸給人工智慧,哈。

AI 要能搞定真實世界的麻煩,絕非單靠雲端丟個 LLM 或是寫幾段 Agent 流程就夠了。現場需要機器視覺抓瑕疵、需要 STT/TTS 語音互動、更需要協調一卡車的傳感器。這條把大腦和物理世界縫合在一起的控制線束(harness),才是落地成功與否的手工活。

一台機器同時是大腦和人機介面

過去,這種架構大多很割裂:底層用 Linux 或 RTOS 跑專業設備(視覺檢測/感測器),上層再疊一個陽春的 Windows 或 Web 頁面當人機介面(HMI)。萬一發生了意外,光排查就要不少時間,更別說有沒有足夠專業來排查。

但如果今天有一台機器,既擁有巨大的本地算力、完整的 CUDA 生態,又是使用大家閉著眼睛都會用的 Windows 呢?這簡直是神來之筆。HMI 終於能與底層計算深度協同,操作員可以用最自然的「說與聽」來指派產線任務,機器即時分析各種資訊來對人員作即時預警或預測。那些以前需要找三家系統整合商(SI)、拼湊好幾台硬體才能勉強運作的惡夢,現在一塊小盒子就有機會搞定。對任何管現場、審預算的人來說,這誘惑真的很大。

簡單想像幾個場景應該就懂了:

一家小吃店,電話進來訂位或客訴,機器當場聽、當場理解、當場查訂位系統回話並且通知廚房或店員發生了啥事,順手把資料寫回後台並指揮機器人進行準備;

一條產線,鏡頭看著零件、現場人員用講的問「這批良率怎麼樣、上一班發生什麼事」,機器直接調 ERP 給你答案,出錯的時候直接移除並分析製程是否有問題是否需要停機或提出修改建議;

或是工作排程的人,對著螢幕問一句,就把生產排程跟庫存檢索一次串起來。

為什麼「消費級」反而是重點

RTX Spark 這種高度整合的設計,在散熱、算力、功耗或成本上,天生就是為了成為一個邊緣小盒子而設計的,就是比 CPU + GPU 適合處理多模態的作業(GPU 那點小 VRAM,根本不可能跑多個模型)。而且,最重要的一點,既然現在的定位是消費級別,各家廠商預計發表的型態都是筆記型電腦,那就表示一個最重要的猜測:RTX Spark 一定會比它高貴的堂哥 DGX Spark,划算很多(我猜的,希望要成真)。

當然,除了價格這個因素外,我覺得這更是工程師的小玩具跟商業應用的本質差異。

去年的 DGX Spark 雖然好,但它搭載的是 Linux 核心的 DGX OS,注定走不出特定工程師的圈子。在實驗室裡它叫純粹與極致,但在講求綜合效率的工業現場,Linux 意味著高昂的維運成本。

但是跑 Windows 的設備,企業原有的 IT 管理、網域控制、資安防護全都能無縫接入,大部分的公司不需要因為要引進 AI 落地,再去擴編 Linux 團隊;更不用說它走消費級量產,硬體成本直接被全球龐大的消費與筆電市場給平攤了。

為什麼這個念頭值得我野人獻曝

場域的應用,要的從來不是一個全知全能的 Jarvis,而是針對特殊行為所特化出的能力。落地成功與否,關鍵根本不在模型多大、多聰明,而在那個把各種能力縫起來的 harness 與物理層協調與合作。白話講就是:手工活做得好不好。

在念書的時候做過專家系統。對,就是現在 LLM 的先祖,也是上一波人工智慧的主流技術。當年卡住我們的第一道牆是怎麼讓系統做模糊推理、怎麼用自然語言當前端。這道牆當年過不去,專家系統最後就被大時代拋棄了。

可是現在,模型效率的提升加上硬體性能的猛漲,當年那道過不去的牆,如今已經不是問題了,模糊推理跟自然語言,變成了最便宜、最現成的技術了。藉由 CUDA,多模態的 AI 不但可以塞進同一台機器同時工作,甚至還能離線運作。對很多斷網就完蛋、或根本不能連外網的場域來說,這一點重要到不行。

更迷人的是,即時資料在我手上,AI 也在自己手上,造出自有的資料飛輪的門檻就被踏平了。資料飛輪開始運轉後,AI 就有可能越來越懂場域,越來越能快速預測可能發生的事,例如新產品從上線到成熟需要的學習時間預估。

而佈署 RTX Spark 這樣的基礎設施,成本是固定的,或是可以估算的,CAPEX 很容易就被算出來。不像雲端 token 的使用量是一個很難被預測的變動成本,但這種不是研發或行銷的變動成本,又是實打實的生產成本,不能失真的太離譜。對付錢的人來說,可以貴(當然最好不要),但我不要月底收到帳單時倒抽一口涼氣的驚喜。

免責聲明

最後一定得免責聲明一下,RTX Spark 還沒上市,這一切都是我看公開資訊後所產生的美好幻想,說不定整件事又重蹈了之前三次 Windows 失敗的老路,或是商業上的合作並不如想像中美好。所以你就當我是在蹭 RTX Spark 的熱度吧,萬能的 Meta,請賜予我無數的流量吧,阿門。

希望過幾天痛風不要發作,不然這篇分析大概會被我自己刪掉。

訂閱電子報

新文章上線時寄一封信給你,附上一段不會寫在文章裡的話。不轉寄、不推銷,隨時可退訂。