專家：我不會讓AI安排3件事

除了天氣，還有許多障礙物和路況是AI可能無法察覺或識別的。橋梁可能被洪水沖毀或進入封閉維修，步道可能被倒塌的樹木或巨石阻擋。如果AI引導你走上這些道路，你可能會被迫原路折返，使登山時間和距離超出原本的預期。

AI無法掌握最新狀況是一回事，但AI還可能憑空創造不存在的地形特徵，或抹去真實存在的地形，也就是出現所謂的「地理幻覺」（Geo-hallucinations），而且在很多AI中變得愈來愈普遍。這增加核實所有資訊的必要性，你必須對照官方地圖，與最近熟悉這片區域的人討論狀況，做好準備、保持冷靜，在真的迷路時採取正確的應急措施。

其次，只要涉及身體健康，瓊斯絕不會靠AI決定特定疾病或傷勢的最終處方。ChatGPT Health的存在是為了讓使用者透過提問更了解自己的整體健康狀況。這固然很好，但他絕不會利用ChatGPT和類似的AI工具來取得醫療層面的最終決定。他可以請AI提供該向專業醫療人員諮詢的問題，或解釋複雜的醫學術語，但絕不會要它幫忙決定某個傷勢該做什麼手術。

廣告

先前一項針對四個主要聊天機器人（Claude、Gemini、ChatGPT和Llama）的研究發現，它們在回答診斷或治療問題時存在多項失誤，包括遺漏安全資訊（例如與流產相關的緊急預防措施）、給出不安全的建議（例如建議嬰兒喝水）。聊天機器人還給予了不恰當的撫慰，例如在未考量患者病史的情況下，認為心口灼熱感很可能是良性的。AI生成的搜尋摘要同樣會出錯，《衛報》調查發現，Google 的AI Overviews在胰臟癌和肝功能檢查等主題上提供不準確、可能有害的資訊。

雖然AI模型在某些醫療基準上表現出色（例如在標準化醫師考試中取得及格分數），但在臨床決策支援方面的表現依然較差。在最近的一項試驗中，當AI獨立處理醫療情景時，達到了95%的診斷準確度，但當普通大眾利用聊天機器人協助處理相同的醫療情景時，成功辨識出病症的比例只有35%。

廣告

一項獨立的安全評估發現，ChatGPT Health對呈報的急診醫療情景進行檢傷分類時，有52%存在低估風險的情況。研究還觀察到錨定偏見，當家人或朋友輕忽症狀時，模型的檢傷建議就會轉向較不緊急的級別，很可能導致耽誤救命治療。

最後，瓊斯也不會讓AI協助規劃重大財務決策。盲目聽從AI關於買房、創業、投資的建議絕對不可行。詢問這些財務決策的優缺點沒問題，但把AI當作未來金錢選擇的最終權威絕對是錯誤的。

根據Intuit Credit Karma於9月發布的調查，使用過生成式AI的美國人中，有三分之二（66%）曾用來獲取理財建議。在Z 世代和千禧世代中，這個比例更高，都達到82%。

但學者指出，由於演算法存在幻覺，這些程式可能會給出錯誤答案。而且AI 對使用者撰寫提示詞的方式非常敏感，輸入內容的微小差異可能會導致建議產生偏差。AI對使用者也沒有受託人義務，在法律上不需要提供符合使用者最佳利益的理財建議。

廣告

但也有3種活動，瓊斯會讓AI協助規劃：

1.    旅遊

讓AI幫忙排出每日行程、根據用戶興趣愛好尋找最佳景點、提供雨天備案，這些都是瓊斯很放心讓AI協助規劃的旅遊項目。不過，在登機前瓊斯一定會親自核實所有資訊。

2.    派對

瓊斯向來不擅長籌備派對劃，通常只負責處理送禮部分。但最近他開始習慣利用 Gemini尋找最佳場地、推薦禮物、創意裝飾、音樂播放清單，以及籌備聚會時的自製菜單。每當遇到以烤肉為中心的節日（如美國獨立紀念日、勞動節、夏天出生朋友的生日）時，他會和AI一起制定計畫，再分享給其他籌備小組成員，展開規劃。

3.    工作

ChatGPT為瓊斯安排切合實際的待辦清單，配合他的身心狀態安排工作時段來提高生產力，也幫他找出晚上最適合的放鬆方式，讓他在確保高效能工作的同時完成更多任務，同時保持健康與生活品質。

（資料來源：Yahoo Tech、Tom’s Guide、NCBI、Yahoo Travel、CNBC）

廣告