AI晶片新賽道！專訪新思科技CEO：雲端巨頭改玩COT，台灣將成客製化中心

第一種是通用型的處理器，像英特爾的處理器、輝達的GPU都屬於這一類；第二種是特定應用積體電路（ASIC）；第三種則是AI資料中心業者自行設計的晶片。

他解釋，資料中心業者這三種都會用，但考慮的點不一樣。「他們仍然需要通用型處理器，因為這些處理器有成熟的生態系，」許多現有的軟體可以很容易在這些處理器執行。

ASIC和通用處理器相比，是專為特定應用打造的晶片，成本比通用處理更有競爭力。但他認為，接下來最重要的趨勢，是資料中心業者自己打造比ASIC更客製化的晶片，他稱這種新型晶片商業模式為COT（Customer Own Tooling），指的是資料中心業者自己買EDA軟體、自行研發，最後直接將晶片交給代工廠生產的模式。

比ASIC更客製化，雲端大廠搶攻COT自研晶片

「我相信COT模式會持續成長，不過，這不代表另外兩種晶片會衰退，」加西說，因為，以前幾乎沒有資料中心業者做這件事，「但現在幾乎所有的雲端業者都在談要自己開發晶片。」

廣告

他解釋，雲端業者自己開發晶片和ASIC相比，能更精細的控制晶片的頻寬和性能，晶片運作的方式更貼近每家公司提供的服務內容，讓自家服務跟對手的差異更明顯。換句話說，晶片整體的成本更低，投資在自己研發的晶片上，更賺錢。

這幾年半導體愈來愈複雜， 設計一顆晶片不只是要考慮電路設計合不合理，還要將設計好的系統在投入生產前，先用模擬程式分析，系統全力運作時是否會過熱，未來還要把光訊號、磁力在晶片裡會如何互相影響都考慮進去。

設計愈來愈難，但是晶片推出的速度卻愈來愈快，以前是24個月到18個月推出一款晶片，現在卻多半是一年推出一款晶片，「時間還在持續的縮短，」他說。

晶片變得比以前複雜，設計的時間卻大幅縮短，關鍵在AI。

AI讓晶片設計的速度大幅縮短。（莊凱程攝）

AI如何縮短複雜晶片的設計週期？

過去新思科技是打造產品給工程師使用，「使用者介面都是為人設計的，」新思按使用者人數收費；但今年開始，他們推出的新產品，改為為工程師和AI代理人協作設計，一個AI代理人「總管」可以指揮數百個負責特定工作的AI「工人」，聽從工程師的命令工作，加西說，「我們稱這為混合工作力（Hybrid workforce），」在這種模式下， 工程師效率可提升到過去的五倍以上。

廣告

「幾年前，COT的市場幾乎是零，」他解釋，以前沒有這個市場，「主要因為人才嚴重不足，但AI現在讓設計IC的門檻大幅降低。」

大公司自行設計晶片的趨勢因此大行其道。AI降低了設計晶片的門檻 ，這些公司發現擁有自己的晶片好處多多，「這個市場現在供給遠遠低於需求，」他說，這股趨勢的力道愈來愈強，就連通用型處理器的供應商，都會開始為雲端業者將客製化功能加入晶片中。

他認為，未來用於AI的運算會愈來愈多元，除了訓練模型和推論要用不同的晶片進行運算，未來還會出現專為代理式AI和實體AI設計的晶片產品。

客製化專用晶片商機，台灣有什麼機會？

加西看到的未來是：AI會讓半導體需求更大、更多元，而這些新增的AI算力，又會回過頭來讓「AI虛擬員工們」變得更聰明。

廣告

這也將是台灣的機會，因為，過去處理器的主導權掌握在幾家大廠手上，現在，各公司客製化專用晶片的趨勢將愈來愈強勁，台灣有機會靠設計服務，在晶片代工製造之外，成為各大公司客製化晶片的中心。

新思科技在台灣擴大投資，6月中舉行竹科X軟體園區新辦公室啟用典禮。（莊凱程攝）