一項十五年來出貨量腰斬的企業電子設備、一個年產值新台幣七兆元的硬體市場,正在因「省Token」這個潮流而翻轉。
一場AI代理人革命,提前讓Token「吃到飽」時代落幕,如何省、如何最大效益化Token,不僅是新顯學,黃仁勳、陳立武、蘇姿丰等全球AI大咖更已嗅到其中的新商機,並帶動戴爾、惠普、微星、華碩、技嘉等公司投入。
一個漏網鏡頭、一位企業家,最能表徵這個改變。時間,回到今年六月台北國際電腦展的現場。
「我給你看一個產品,」這天,黃仁勳才造訪微星的攤位不久,一位該公司主管就領著我們,到一台黑色外殼、體積只比一般桌機稍大的電子設備,停下腳步。
省下給雲服務商的Token費!
輝達推「越買越省」筆電、伺服器
「這台機器,叫DGX Station,是一台單機版、工作站式的伺服器,裡面有一張輝達GB300的晶片,主打讓企業放在辦公室裡的產品,」他用手指比著八的手勢說,「售價,大概八萬美元(約合新台幣二百六十萬元)。」
儘管,「現在還沒什麼人注意到這個產品,不過,這會是NV(指輝達)從雲端到地端的下一個戰場、要讓企業『省Token』的新產品。」他表示。
黃仁勳的盤算是,一台放在雲端資料中心、擁有七十二顆AI晶片的GB300機櫃,造價超過新台幣一億元,「但假如,你這家公司沒有那麼多預算,也不想付一堆Token費用給雲服務商,好,沒關係,那你就買這個產品。」前述微星主管分析。
事實上,無論DGX Station企業伺服器、或是黃仁勳六月在台灣發表的「輝達牌筆電」—RTX Spark,超過三位電子業人士都跟我們指出,輝達瞄準的是Token費用暴增年代,企業欲打造自有算力、不假雲服務商之手的新需求。
因為,當你的辦公室裡有一台算力很強的AI筆電或伺服器,將意味著「燒Token」這件事情,可由這些設備承擔,進而大幅減少每個月的AI支出帳單。
這個改變,甚至會讓企業採購筆電、桌機等設備時,從原本「俗擱大碗」、夠用就好的採購需求,轉為考量算力高、單價也相對高的運算設備。
這意味著,喊了三年「AI PC」卻乏人問津、年產值達七兆元的筆電產業,將在企業Token用量暴增的後AI時代,重新找到新賣點。
「以前,黃仁勳有句名言叫『買越多省越多』,」一名品牌廠高層說,「未來,我們這些品牌商推AI電腦、企業級伺服器,也會講一樣的話,就是這些設備雖然貴,但能幫你省一大筆Token開銷。」
企業買伺服器,聽起來似乎很平常?然而,過去十五年,「以租代買」、租賃雲端空間的趨勢,早已削弱企業採購伺服器的需求,據IDC、集邦統計,過去十五年「企業級伺服器」的出貨量,硬生生下滑近五○%。
但這項「冷灶」產品,即將迎來春天。
「接下來,企業級伺服器,會因為大家Token用量暴增、企業不想付這麼多錢給模型商、雲服務商,而重新回到辦公室。」一名七大伺服器廠的執行副總經理說。
這也代表了,戴爾、惠普等伺服器品牌商與輝達這次為了DGX Station攜手的微星、華碩、技嘉等台廠都將受惠。
事實上,就是這股企業級伺服器「再起」的趨勢,讓該產品的王者戴爾電腦,過去半年股價與市值,大漲了超過二五○%。
傳統CPU供應鏈也受惠
英特爾聯手鴻海推企業級新設備
然而,看到同樣機會的,又豈止黃仁勳,今年台北電腦展與他同場較勁的英特爾執行長陳立武,這次也出招了。
「隱私、成本、效能!」陳立武今年主題演講,找來AI模型商共同發表一套訴求「混合式運算」的AI作業系統。未來,只要你在辦公室的桌機、伺服器,是內建英特爾18A製程晶片,它就會自動幫你省下Token。
在他們展示的個案裡,一名公司職員在電腦上請AI分析一個事涉機密資料的文件,這時候,系統會自動把敏感或較不複雜的資料留在職員自己的電腦裡運作,其餘不敏感的資料,再交由雲端的伺服器運算、燒Token。
「未來,將有更多運算在(雲端)資料中心完成,但,也會有更多運算在地端的裝置完成。」陳立武預示。而且,這些地端裝置也都將搭載英特爾的晶片。
「就我們的觀點,除了地端的裝置,包括CPU(中央處理器)的需求,也會跟著起來,」一名英特爾的內部人士表示,當AI代理人運作時,「不是所有的運算都需要GPU(圖形處理器),CPU的角色跟用途反而更吃重!」
當CPU的需求提升,也意味著傳統的英特爾供應鏈:欣興、嘉澤、雙鴻等,也都有望跨入這股新商機。
上述英特爾內部人士更指出,接下來,由於AI運算「無所不在」,即便是企業級伺服器,設計也會跟過去不同,「譬如一棟五層樓的工廠,每一層樓都需要一台中小型的邊緣伺服器,而這些機器還要能彼此相互溝通。」
正因為設計不同,這次陳立武來台,特地與電子代工霸主鴻海董事長劉揚偉一對一會面,雙方更宣布,將一起研發從地端到雲端、從單機到機櫃的設備,「最有能力設計這麼多不同的新設備,全球大概就只有我們。」一名鴻海主管說。
超微推「半年就回本」電腦
三星暌違12年開發筆電晶片參戰
就在黃仁勳、陳立武相繼出招時,另一個AI大咖——超微(AMD)執行長蘇姿丰,也宣布只有一個便當盒大小、以「桌上型伺服器」為訴求的Ryzen AI Halo正式上市,據傳這台售價三千九百九十九美元的裝置,是由廣達、緯創製造。
有趣的是,超微為這個產品撰寫的文案,就以「省Token」為號召。文案指出,若每天使用八小時的Claude Sonnet 4.5模型,每個月雲端Token的支出約七百七十美元,如此一來,買超微這台電腦,將硬體成本與每月約十六.二美元的電費攤提計算,只須六個月就可以「回本」。
「記憶體一哥」三星,更在七月上旬傳出,正在開發一款AI筆電專用、代號為「Gaia」的晶片。為什麼暌違十二年後,這家科技業者再次推出筆電晶片?外界多認為,其瞄準的就是企業導入AI代理人後、欲使用高算力設備的商機。
若一切改變成真,意味著未來,AI商機將不止在雲端AI伺服器;而是當越來越多的企業導入AI代理人、Token用量越多,沉寂多時的終端設備:筆電、手機、企業級伺服器、甚至網路設備,都可能迎來新盛世。