今日焦點

比提示工程更重要,「上下文工程」Context Engineering怎麼做?

如果AI表現不穩定,有時候問題可能不在提示詞。瞭解「上下文工程」(Context Engineering)的運作邏輯,優化AI的數位辦公桌、打造可靠的自動化生產力。

LLM-AI-提示-上下文 圖片來源:Shutterstock
其他
  • 天下Web only

AI代理明明對你的產品瞭若指掌。你寫了超詳細提示詞、上傳文件,測試好幾十次,客戶詢問價格時,AI代理卻報出上一季的價格,或對一個3年的老客戶推薦入門試用版。

最令人沮喪的是,正確資訊就在你的提示詞第347行寫得清清楚楚,只是被AI忽視掉了。

研究人員說,這是因為大語言模型(LLM)的注意力曲線是U型的,它們能可靠地處理輸入開頭與結尾的資訊,但對於埋在中間的內容,表現會下降30%以上。你為了回應客戶投訴而精心加入的那條規則,模型很有可能從來沒看到。

華頓商學院生成式AI實驗室發現,如果對同一個問題做100次測試,在嚴格要求準確度的情況下,大多數提示詞的表現「只比隨便亂猜好一點」,而且不夠可靠。

您已經是訂戶? 登入
線上+紙本閱讀
訂閱看完整內容
  • 解鎖訂戶限定文章
  • 國際最新變化資訊
  • 台灣產業深度解析
  • 不限篇數暢讀天下
  • 6月限定訂閱優惠
查看訂閱方案

你是學生嗎?完成驗證即可享每月$99元優惠

你可能有興趣
#Shorts|光與鹽管理顧問創辦人陳淑芬:天下學習幫助我們的學員,更加進步和成長。
最新訊息
立即下載為您量身打造無廣告的閱讀環境
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容