如果說台灣下一個發展重點是實體AI(Physical AI),那我們或許需要先發動一場「AI蒸餾大煉鋼」。
所謂AI蒸餾,可以想像成是以大型語言模型為師,從中萃取出特定領域所需的知識,然後訓練出一個可在特定場景應用,不必連上雲端也可以使用的小型特化模型。這個特化模型,就是決定實體AI有多聰明的大腦。也可以說,「蒸餾」實際上就是發展實體AI最關鍵的軟體技術。
那為什麼說需要大煉鋼呢?因為這非常需要所有領域的人一起參與,台灣需要長出一個生態系。
生態系裡的第一個角色,是可以提供實戰應用場域的需求方;第二個,是具備AI蒸餾能力的技術供給方;第三則是第三方認證單位,透過認證,可以強化需求方和供給方之間的信任,提高雙邊媒合成功率。
雖然現在這個時間點談蒸餾已經不算早,因為自去年初DeepSeek推出,震撼全球後,蒸餾大模型這件事就開始受到關注。過去這一年來,中國包括機器人在內,各種AI應用百花齊放,都和DeepSeek有很大關係。
但我認為對台灣來說,這個時間點發動蒸餾大煉鋼也還不算晚。
一方面,過去這一年,AI大模型有很多變化,不只模型的能力進步,也有更多業者釋出開源模型可供使用;且同時間,實體AI可用的晶片能力也在提升。整體來說,現在的環境比過去更成熟,蒸餾出來的特用模型也更能符合實務需求。
而且即使在沒經驗的情況下,要說土法煉鋼,其實也不會太「土」了。因為世界各國有太多人在做這件事,你如果問AI,它已經可以教你很多,可以說這個煉鋼是有所本的。
還有很重要的一件事,就是實體AI的商機還沒真正落地,台灣還沒錯過機會窗口。
此外,雖然大家總說台灣的軟體不行,但在蒸餾這件事上,最關鍵的人才,未必要來自資工領域。因為蒸餾有一個很重要的地方,是針對特定產業知識去優化,所以「出題」其實是蒸餾這件事很重要的技術。而最懂得向大模型出題的人,其實是各產業內的人才。
這個挑戰不簡單,但台灣一定要採取行動,因為繁體中文資料太少,已是不可逆的事實,台灣勢必無法在通用AI模型戰場競爭。但如果透過蒸餾的方式,訓練可用在終端的小模型,我們的資料絕對夠,而且這也會是我們運用硬體基礎疊加AI發展的最好機會。