- 天下Web only
AI代理明明對你的產品瞭若指掌。你寫了超詳細提示詞、上傳文件,測試好幾十次,客戶詢問價格時,AI代理卻報出上一季的價格,或對一個3年的老客戶推薦入門試用版。
最令人沮喪的是,正確資訊就在你的提示詞第347行寫得清清楚楚,只是被AI忽視掉了。
研究人員說,這是因為大語言模型(LLM)的注意力曲線是U型的,它們能可靠地處理輸入開頭與結尾的資訊,但對於埋在中間的內容,表現會下降30%以上。你為了回應客戶投訴而精心加入的那條規則,模型很有可能從來沒看到。
華頓商學院生成式AI實驗室發現,如果對同一個問題做100次測試,在嚴格要求準確度的情況下,大多數提示詞的表現「只比隨便亂猜好一點」,而且不夠可靠。
天下總主筆陳良榕專欄。半導體狂熱、科技巨頭謀略的最犀利解讀
看懂科技大勢,獨家解讀
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱