AI模型正在快速分化,有的擅長處理語言;有的擅長把視覺資訊變成文字答案;有的能根據文字命令生成影片;目前也已出現專供金融等不同領域使用的專用AI模型。除了正確性,回應速度、消化的資料長度和複雜度,以及可供客製化的程度,都會影響模型的價值。
到底該如何選擇模型?先搞懂6大常見問題:
Q1:現在AI還有幻覺嗎?
A:近期,由於AI控制系統的新技術興起,使AI產生的結果能專注在某個領域,再利用不同AI模型比對結果,提高正確率,幻覺大大減低。
因此,許多企業新工作,如AI資源調度師、客製化模型訓練師、前線部署工程師(FDE)、框架工程師(Harness engineering),AI agent設計師開始出現。
Q2:不同任務怎麼選擇對的AI模型?
A:程式撰寫要求快速產生正確結果,貴一點也無所謂,因此近期宣布漲價的AI模型與服務,多半和程式撰寫有關。如果你執行的是撰寫文稿,整理資料或生成簡報等服務,用Claude最貴的模型並不划算。
目前,出現一個新名詞叫「模型路由」(model routing),為問題尋找能力適配的模型。怎麼做呢?就是直接先問AI,這個問題最適合哪個模型來解決,以免浪費算力。
Q3:在同樣的預算下,怎麼讓AI為我做更多事?
A:當你決定要使用哪個模型後,還有很多技巧可以省錢,讓AI幫你做更多事。例如,由於中文消耗的Token更多,如果你能用英文下指令,就可以省下Token。此外,AI按輸出和輸入資料的長度計費,在下命令時,可以要求AI,回答字數限在50字以內。
另一種方法是用高階AI模型,幫你規劃事情該怎麼做,再交給便宜的AI執行,例如:要搬遷網站,可以跟高階的AI模型說,現在你是指揮者,寫下指定用那些模型搬遷網站的計劃和歩驟,就能善用不同模型的能力。
Q4:該用千問、DeepSeek等中國開源模型嗎?使用時,有什麼風險要注意?
A:目前開源模型的成本較低,能力略為落後頂尖模型約幾個月的時間,較適合用來處理對正確性要求較低的工作。
雖然這些模型能下載至本地設備使用,看似沒有資料外洩的風險,但仍需注意這些模型是否夾帶惡意程式碼、後門,或隱藏在程式碼中的遠端調用指令,在背後悄悄蒐集設備參數或將特定資料回傳。
國安局去年11月16日新聞稿就曾警示,中國的AI語言模型,在生成內容時會進行關鍵字審查,並生成網路攻擊指令。
Q5:AI代理人該怎麼管,才能將效益最大化?
A:今年Token需求暴增,關鍵之一是代理式AI(Agentic AI)需要在內部做大量推理。例如當你上傳一個文件,代理式AI內部會再指揮一群AI,有些扮演提案者,有些扮演審查者,用一群AI來完成任務。
台灣微軟總經理卞志祥建議,企業要把AI agent視為虛擬員工。啟用AI agent的時候,一樣要給它員工識別證,告訴它工作內容,並且管理工作結果。意思是,如果你要用AI agent幫你做事,需要清楚告訴它要完成哪些任務,不要做任務之外不相干的事情。例如整理逐字稿的agent突然跑去刪除機密資料,系統要加入制止。公司同樣可以每天幫AI agent做記錄,打分數,確認agent的效益。
Q6:在企業採購伺服器,自己生產Token前,要考慮哪些事?
A:Token價格目前兩極化。但企業考慮自建算力,不應只考慮價格,更重要的是維持AI算力穩定供應。另外,若全依賴外部算力,一旦公司斷網,各部門就會停止運作,為了確保服務穩定,需要自建AI算力。
要不要自建,可以依AI的影響當作區隔。若AI現階段只用在提升營運效益,即使斷網,也只要回復原有模式就能運作,如此,多半會選擇持續使用雲端算力,不會花大錢自建。
若想用聰明的AI模型來解決問題,模型的參數愈大,能力愈強,仍需要頂級的AI晶片和極昂貴的伺服器才能運作,因此用外部算力仍是較佳的選擇。許多公司會先投資外部算力,找出最佳化的AI應用,等需求出現後再考慮自建。
(責任編輯:趙珮妤)
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱