重磅出刊

翻轉算力極限的關鍵在台灣!微軟登SEMICON Taiwan 2026 號召台灣生態系共創算力突破

當全球科技巨頭陷入狂堆晶片、搶奪電力的軍備競賽時,AI真的愈「大」愈好嗎?微軟 Azure 雲端硬體與基礎建設總裁 Rani Borkar 在 SEMICON Taiwan 2026 以一粒小麥打破產業迷思,揭示 AI 算力即將迎來的重大轉折:下一步勝負,不再比誰晶片買得多,而是比誰的「良率」高!

微軟-半導體-SEMI國際半導體產業協會-SEMICON Taiwan 2026 國際半導體展 面對算力膨脹,微軟 Azure 雲端硬體與基礎建設總裁 Rani Borkar 於 SEMICON Taiwan 2026 大師論壇暨全球生態系高峰會強調,AI 競爭關鍵已由規模轉向「良率」。
其他
加入Google偏好來源 在Google搜尋優先看到天下

一片片在晶圓廠黃光下完成運送的矽晶圓,已成為運算龐大AI模型的核心。在SEMICON Taiwan 2026 國際半導體展大師論壇暨全球生態系高峰會中,微軟Azure雲端硬體與基礎建設總裁 Rani Borkar,卻用歷史故事開啟演講。

她以1950年代的半矮生小麥(Semi-dwarf wheat)為例,提醒在座的半導體產業領袖:過度施肥,其實只會使麥稈傾倒,正如一味堆疊電力與晶片,終將撞牆。「半導體最偉大的字眼是『良率』,而AI的下一波革命,是把每一瓦電力、每一片晶圓,都轉化為無形卻能拯救生命的真實良率,」Borkar 強調。

會如此比喻,是因為愈來愈成熟的AI代理人系統,能進行推理、規劃、調用工具與執行多步驟工作流程。單一代理人任務消耗的Token數量,是傳統AI對話的3400倍。而且代理人式AI將從軟體工程拓展到所有產業與職務,這會使原本就已吃緊的AI基礎設施面臨嚴峻挑戰。

1950年代,諾貝爾獎得主、美國生物學家Norman Borlaug選擇重新設計植物本身,讓能量專注於結實,而非長高。Borkar認為,同樣的道理之下,AI技術若要持續升級,不能再只靠狂堆晶片、拚命搶電,而是要改變思維,想辦法用同樣,甚至更少的電力與硬體資源,創造更多、更實用的AI智慧。

跳脫物理限制!從晶片到系統的全套優化

而這有兩條發展路徑,一是持續優化現有架構,提升利用率與經濟效益;二是改變成長曲線本身,就像以前晶片速度升不上去,就改用多核心分工,平面空間塞不下,就改像蓋高樓一樣往上堆疊,直接跳脫原本的物理限制。

要跳脫限制,關鍵不能只改單一元件,而是要從資料中心到軟體做全套優化。Borkar坦言,畢竟系統就像接力賽,若七個關卡各自僅發揮80%效率,連鎖打折下來只剩20%,唯有跨層級聯手,才能真正打破瓶頸。

為落實全套優化,微軟採用「從晶片到系統」(silicon-to-systems)的全新設計思維,代表不再孤立看待單一元件,而是以最終目標導向,優化整體技術堆疊。Borkar解釋,這代表從想要交付的成果出發,來優化整個技術堆疊,而不是將每一層分開處理。

以自研 AI 推論加速晶片Microsoft Maia 200為例,其設計目標是提升大規模推論的效率與經濟效益。這個實際目標引導微軟在晶片、系統、網路和軟體層面的所有決策,最終實現「用更少的美元與瓦數,交付更多Token」的終極成效。Borkar表示,這種系統級的作法能消除限制、平衡權衡取捨,並解鎖單一元件無法達成的效能增益。

同時,微軟在晶片策略上也恪遵「相輔相成」原則,把自研的Maia AI加速器晶片與Cobalt伺服器CPU,和輝達(NVIDIA)、超微(AMD)等頂尖夥伴晶片相結合,針對不同工作負載匹配最佳平台,而非相互取代。

微軟 Azure 雲端硬體與基礎建設總裁 Rani Borkar 推動「從晶片到系統」的全套優化,打破算力極限。 

微軟Azure如何優化記憶體、網路與電力?

微軟在Azure雲端系統中,就把這種全套優化落實在三大關鍵領域。

以記憶體為例,不能只靠硬體升級,而是要透過軟體與編譯器,讓資料離算力更近,把每一個位元組的效益發揮到極致。當傳統架構逐漸逼近物理極限,記憶體與頻寬限制日益加劇,先進封裝、矽光子與下一代記憶體等前瞻技術,也成為解開算力瓶頸的核心解答。

在網路傳輸方面,則把網路直接「編織」進微軟在2026年1月推出的第二代自研AI推論加速晶片Microsoft Maia 200,減少傳輸卡頓,不讓晶片白白閒置。

至於電力管理,微軟將電力視為從電網到晶片都需要全面設計的核心。輸電層次上,微軟正探索系統級的方法,如固態變壓器(solid-state transformers),並採用800V高壓直流電減少輸電耗損。

而在晶片層面,微軟展現軟硬體協同設計(Hardware-software co-design)的實力,其客製化處理器Azure Cobalt 200不僅針對每個核心獨立控制電壓與頻率,更搭配以軟體為基礎的每台虛擬機電力上限控制(per-VM power capping)。這種更細緻的控制方式能將電力精準調配到需要的地方,同時保護關鍵工作負載的效能,使相同的電能運行更多伺服器。

此外,面對機架密度飆升帶來的控溫挑戰,微軟也打造端到端的散熱架構,從晶片、模組、伺服器到機架同步協同設計閉迴路液冷系統、每個Maia機架皆配置的熱交換單元(HXU,heat-exchange units)與新興的晶片內微流體(on-chip microfluidic)散熱技術,確保系統高效率穩定運作。

算力的終極使命!讓AI成為無形卻普及的社會良率

系統優化的終極目標,絕非只為了衝高算力,而是要讓AI智慧變得可負擔,且無所不在。

Borkar 強調,這項技術最大的「良率」,不在於晶片本身,而在於它默默帶來的社會改變,如協助醫師早期診斷疾病,為政府企業及時預警可能風暴,甚至是為苦思轉型之道的小店家找到基業長青的秘訣。

這顯示,當AI像電力一樣,無形、平價且穩定在背後推動世界運作時,才是「良率革命」的終極實現。

站在AI革新心臟,微軟攜手台灣生態系共創突破

而這場全套優化的革命,絕非微軟可獨自完成,這也是Borkar選擇在最具影響力的半導體專業展會 SEMICON Taiwan 舞台發聲的主要原因。

她認為,AI基礎設施的未來將由整個生態系的實力來形塑。對微軟而言,台灣在全球AI基礎建設中高居心臟地位,從工程專業知識、領先的先進製程產能,再到封裝測試與系統整合,台灣生態系具備把新技術轉化為全球大規模部署的關鍵實力。

因此,微軟不僅在台設有自身的研發團隊,與在地夥伴的合作更早已超越傳統的買賣關係,邁向跨越技術邊界的「共同設計」。面對代理人AI所帶來的龐大算力衝擊,Borkar直言:「我對生態系的訊息是:最大的突破,將在我們把生態系的全部力量凝聚在一起時發生。」

Borkar進一步強調,為讓AI具備廣泛的擴充性與可及性,必須持續推動系統每一層的效率。微軟將持續與台灣供應鏈深化合作,「這意味著要將系統級優化推向更深的層次,不斷挑戰既有假設,並跨越傳統邊界,去尋找在任何單一層級中都無法看見的機會。」透過這種方式,共同打破物理與架構限制,把每一瓦電力、每一片晶圓效益發揮到極致。

SEMICON Taiwan 作為全球半導體最具影響力的專業展會,正是推動這場跨界合作的最佳平台。微軟將持續與台灣供應鏈深化合作,藉由多元採購策略、深度跨國協同創新,共同打破物理與架構限制,把每一瓦電力、每一片晶圓效益發揮到極致。


關鍵FAQ

Q1:微軟為何用「半矮生小麥」形容當前的AI算力發展?

A:1950年代過度施肥只會使麥稈傾倒,正如一味堆疊電力與晶片終將撞牆。微軟藉此強調AI技術升級不能再靠狂堆晶片與拚命搶電,而是要改變思維,將重點轉向「良率」,想辦法用相同或更少的硬體與電力資源,創造出更多、更實用的AI智慧。

Q2:什麼是「從晶片到系統」的全套優化?

A:因應代理人式AI帶來單一任務高出傳統對話3400倍的token消耗量,微軟不再孤立看待單一元件,而是採用「從晶片到系統」(silicon-to-systems)的設計思維,從資料中心到軟體進行全堆疊優化。例如,Maia 200的目標是提升大規模推論效率,進而引導晶片、系統、網路與軟體決策,達成「用更少美元與瓦數交付更多Token」。這種作法能消除限制、平衡權衡取捨,解鎖單一元件無法達成的效能增益。由於系統就像接力賽,若七個關卡各自僅發揮80%效率,連鎖打折下來只剩20%,唯有跨層級聯手才能打破瓶頸。

Q3:微軟Azure如何在記憶體、網路與電力三大領域解決算力瓶頸?

A:微軟相信這些瓶頸皆不是單一層面能解決的,而是需要在整個堆疊共同優化。記憶體方面,透過軟體與編譯器讓資料離算力更近;網路傳輸上,把網路直接編織進第二代自研AI推論加速晶片Microsoft Maia 200以減少卡頓;電力與散熱上,採用800V高壓直流電與Cobalt 200晶片內建微型控制開關精準省電,

且透過Azure Cobalt 200展現軟硬體協同設計,搭配核心電壓控制與每台虛擬機電力上限控制(per-VM power capping)精準省電,並搭配閉迴路液冷與微流體散熱技術,維持高效率運作。

Q4:微軟為何選擇在 SEMICON Taiwan 發聲?台灣生態系扮演什麼角色?

A:AI基礎設施的未來將由整個生態系的實力來形塑,台灣在全球AI基礎建設中高居心臟地位,具備工程專業知識、領先的先進製程產能、封裝測試與系統整合實力。SEMICON Taiwan作為全球半導體最重要的專業展會,正是推動跨界合作的最佳平台。微軟不僅在台設有研發團隊,更期望藉由該舞台宣示與在地夥伴超越傳統買賣關係,邁向跨越技術邊界的「共同設計」,攜手將新技術轉化為能在全球大規模部署的關鍵系統。

相關熱門主題
你可能有興趣
廣告
最新訊息
中秋限定64折解鎖暢讀天下只到9/30
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容