生成式（generative） AI自2022年11月OpenAI推出的大型語言模型（Large Language Model；LLM）ChatGPT後，迅速在全球掀起熱潮。隨著生成式AI應用快速擴展，大型雲端服務商在大型語言模型訓練與推論工作負載增加，對於運算力的需求孔急，雲端AI加速器需求隨之躍增，此也反映在各界對於AI伺服器的採購需求。同時，台積電持續擴充CoWoS產能，記憶體業者也加大對高頻寬記憶體（HBM）的投資，以滿足雲端高階GPU出貨所需。
伴隨雲端高階GPU供給面的瓶頸逐漸紓解，Digitimes Research預估2023~2028年，高階雲端GPU的出貨複合年均成長率（CAGR）將達44%，而輝達（Nvidia）憑藉其強大的運算效能和完整的軟硬體整合生態系，在2023年至2024年高階GPU市場囊括九成以上高市佔率。
雲端ASIC加速器部分，Digitimes Research預期雲端ASIC加速器2023~2028年出貨量複合年增長率可達52%，主因大型雲端服務商（CSP）等投入自研ASIC加速器將擁有諸多優勢，舉例來說，ASIC加速器提供CSP更多元性的服務，如對於涉及隱私性、機密性高的服務領域，ASIC加速器將為合適方案；另外，亦可避免AI伺服器全部被鎖定在Nvidia生態系統內，擴增CSP業者發展彈性，且可明確掌握自身AI伺服器發展藍圖。Digitimes Research預期，雲端ASIC加速器2023~2028年出貨CAGR達52%，優於高於雲端GPU的44%。
觀察2023~2024年雲端ASIC加速器出貨比重，在自研自用的部分，Google ASIC加速器出貨量居首，亞馬遜緊追在後，預期未來數年二者仍是雲端ASIC加速器前二大業者；商用販售的部分，英特爾與華為海思分別受制晶片效能與產能限制，在ASIC加速器市場的出貨比重相當有限。
值得注意的，雲端ASIC加速器與高階雲端GPU二者呈競合關係，且基於前述理由，CSP業者仍將持續投入AI ASIC加速器自研，因此Digitimes Research預估2028年起，ASIC加速器總出貨量將可望大於高階雲端GPU。不過，CSP自研ASIC雖可降低對雲端高階GPU的依賴，但預估未來數年仍難取代高階雲端GPU。
邊緣AI裝置需求的增長主要來自生成式AI應用從雲端延伸至邊緣端的需求，AI 手機與AI PC成為邊緣AI應用首波大規模商轉的邊緣裝置。近期PC與手機業者已先後發表能離線執行AI服務的硬體專用平台，藉由PC CPU與手機AP內整合NPU來持續提升整體運算效能，搭生成式AI模型訓練與推論等技術優化，將可望提供用戶更好的生成式AI使用體驗。
此外，AI PC或AI手機必須在不影響系統既有功能運作情形下，另外執行生成式AI模型推論功能，勢必對於裝置的運算效能要求更高，但同時也會因運算量大而增加功率消耗，因此，目前裝置端硬體平台業者透過CPU內建NPU，來提升模型推論效能並降低能耗。
Digitimes Research觀察，2023年為AI手機元年，手機AP業者在AP內導入NPU架構並非新嘗試，2023年以前即有加入NPU的AP隨手機出貨，然直至2022年11月ChatGPT正式將生成式AI應用推向市場後，才逐漸確立AI在手機上的發展定位。
觀察高通與聯發科相繼發表的旗艦款AP，除CPU、NPU規格升級，記憶體容量及頻寬也較前代提升下，使得在手機上運行大型語言模型成為可行，生成式AI功能遂成為手機AP業者行銷主軸。Digitimes Research預估2023~2028年AI手機AP的出貨CAGR將高達65%。在手機AP業者持續投入AI手機AP開發，將帶動AI手機滲透率快速上升，Digitimes Research預估，至2028年AI手機滲透率將突破5成。
AI PC為邊緣AI裝置另一發展重點。Digitimes Research認為，AI PC市場規模將視三大主要作業系統業者，及其所推出的AI應用產品是否能順利讓使用者願意付費使用而定。未來AI PC產業發展將由同時發展AI應用的作業系統業者所主導，硬體平台業者推出相應的CPU及AI PC，其效能規格將配合作業系統升級，由應用驅動硬體規格升級的趨勢更趨明顯。
在CPU製程換代提升整體效能，且伴隨微軟停止更新Windows 10作業系統及Copilot產品進入終端側市場，將帶來AI PC需求成長動能，Digitimes Research預估，2023~2028年AI 處理器出貨CAGR將上看4成；另一方面，伴隨更高性能AI處理器支持AI PC運行邊緣AI應用，AI PC商機亦可期。
為滿足AI晶片性能日益增長的需求，晶圓代工業者正積極推進先進製程和封裝技術的發展，包括從微影技術、環繞式閘極場效電晶體結構、背後供電技術（BSPDN）、2.5D/3D先進封裝、玻璃載板、共同封裝光學（CPO）與矽光子整合等多個技術路徑進行布局，以滿足AI晶片的性能提升所需。而為滿足大量AI晶片出貨，晶圓代工業者將持續擴充先進製程與先進封裝產能，在5奈米以下先進製程，2023~2028年產能擴充CAGR將超過2成；同期台積電CoWoS產能擴充CAGR更逾5成。
Digitimes Research認為，AI應用的落地，將驅動半導體新時代，從雲端資料中心到邊緣裝置硬體及半導體供應鏈的合作，將為整個AI晶片生態系帶來長遠的成長動力和廣闊的市場前景，除AI晶片提供硬體裝置新的成長動能外，新的AI應用、新的AI晶片、新的先進生產技術等，也將為半導體市場帶來新的發展格局。
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢，獨家解讀
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
