重磅出刊

ChatGPT實戰》不會寫程式只好工人智慧?4步驟訓練AI,單手就能做簡報

玉山研發AI防駭客、AmazingTalker運用ChatGPT提升工作效率,它們給機器人人設、用泰文抓漏洞,讓客服到位同時保護個資,企業要怎麼利用ChatGPT,不只紙上談兵?

AI-新創-ChatGPT 圖片來源:Generative AI年會提供
其他
  • 天下Web only
加入Google偏好來源 在Google搜尋優先看到天下

5月初,針對ChatGPT所舉辦的AIGC詠唱者年會,來自科技、金融、新聞、新創、設計各領域的先鋒小隊,探索生成式AI應用的無限可能。550人參與,叫好又叫座,主辦方還要應觀眾要求提供年會錄影回放票。

會中,線上教育新創公司AmazingTalker出動5名部門主管,分享在「拆解工作流程、清楚定義問題、下指令訓練出客製化的AI伙伴、設定各種AI工作流程」的4個步驟下,從人資到客服,如何提高生產力。玉山金控主任機器學習工程師陳照元則分享玉山的百人團隊,在金融業嚴謹控管風險下,正在研發的AI客服,以及如何防駭客。

「過去我們就是不斷擴大團隊來解決一直成長的業務,也要投入更多時間管理,但隨著生成式AI的爆發性成長,我們看到轉變的機會,」AmazingTalker AI團隊負責人林煒勛說。

AmazingTalker:拆解、定義、訓練、重新設定工作流程

所謂轉變,是指徹底改變公司的營運流程。林煒勛直言,其實多數新創都知道營運流程的痛點在哪裡,但苦於自己不會寫程式,一旦要動用到IT資源,優先順序總是會被排在產品開發後面。其結果,只能用「工人智慧」,常常得加班應付高成長的業務量。

AmazingTalker的團隊原本有160人,人資7人,花最多時間就是計算員工每月薪資,需要2個人花3天處理。但導入AI後人資精簡至5人,只要1個人3小時就能算完月薪,節省90%時間。

廣告

客服每週都收到2000則以上的訊息,服務範圍跨時區,就算維持16小時線上客服,用戶的問題還是要等3個半小時才能得到回覆。於是,客服團隊拆解了自己的工作流程,找出最花時間的部份,竟然是查報表找答案與問題回覆。

客服團隊於是自己透過ChatGP寫程式,自動產生整合好的報表,把相關報表建成資料庫,每人每週可省1小時在重複查報表。

機器人客服:細分AI人設,讓他要讀的東西變少

至於訓練AI做到自動化客服回覆,Amazing Talker的做法,就是幫AI建立不同「人設」,讓AI扮演某個專家的角色。客戶提問時,第一步,AI會根據問題的關鍵字,對應找出適合的專家。

目前Amazing Talker的客服建立了「退費處理專家」、「老師專家」等,設好參數、資料庫,讓每個專家角色要讀的資料庫變少、回覆更精準。現在,客服等待時間降到一半,用戶提問後,幾乎完全自動化,經過自動分類、指定AI專家回覆,約3秒就可以解決。團隊節省時間35%,釋出的人力目前拿來訓練更多AI的問題回覆專家,把角色做更細膩。

廣告

「我站在這裡就是用AI最好的證明,」一隻手打著石膏的影片企劃Leon Chan,引起全場哄堂大笑。他從來不會寫程式,但用AI生成演講用的投影片,單手就能做完,「最大障礙不是技術能力,而是如何問對問題找到解決的方法。」

他分享,過去企劃影片拍攝只要一天,但後製卻需要5天。工作流程最花時間與最重複的環節,就是花10小時整理素材和15小時剪片。於是他將最花時間的環境,運用Whisper AI把音檔轉成字幕,再用ChatGPT自動摘要出訪談重點,省下一半時間。至於單手剪片,他分享,串接剪片時,他是用把剪片最常用的軟體Premiere的場境特效、音效,用ChatGPT設成快捷鍵。

(Generative AI年會提供)

用ChatGPT生成問題,但要防止漏洞

至於玉山金控,智能金融處有近100人的AI團隊。這些專家,一半做AI研究與應用,四分之一系統開發。ChatGPT出現後,團隊就持續研究提示工程(prompt engineering),嘗試訓練更人性化的AI客服。

廣告

提示工程就是跟AI溝通的語言,完善上下文與因果邏輯,讓AI更能理解人類的意圖,產生我們想要的結果。

玉山銀行主任機器學習工程師陳照元,以目前正在進行的客服專案為例。為了讓ChatGPT 能更自然理解人類,陳照元會事先把答案丟進ChatGPT裡,讓他自動生成5組虛擬問題,再用這些虛擬問題建立模板,對應客戶可能提出的問題,藉此提高回答的品質。

他認為,ChatGPT 回答不如預期,絕大多數是因為指令定義不清楚或資訊不明確。如果不知道怎設計指令,就把問題丟進ChatGPT問該怎麼設計,通常會有不錯的效果。

但值得注意的是,指令也常常藏著意想不到的風險。雖然,運用 ChatGPT最簡單的方法就是把資料先存放在指令中,但最大的風險也是,一旦駭客攻擊指令(Prompt Injection Attack),很容易洩露重要資料。但金融業有大量敏感的客戶個資與財產數據,不能冒這個風險。

廣告

於是他與團隊的另一個工作,就是大開腦洞,去找提示工程的漏洞。譬如:他發現,只要改用泰文對話,就發現能繞過某些限制,取得機敏資料。一旦知道這個漏洞,就要防堵。

他直言,目前找漏洞這件事沒有捷徑,只能慢慢嘗試、上討論區討論、觀摩更多案例。玉山銀行嘗試使用約170萬筆客服問答資料來訓練ChatGPT模型,因為金融業的嚴謹法遵,所有的資料都取自公開資料或合成的虛假資料,服務也還在純實驗階段。

英國科幻小說《銀河便車指南》作者道格拉斯.亞當斯曾經說過令人會心一笑的科技定律:在15-35歲之間誕生的科技,都是將會改變世界的革命性產物;在35歲之後誕生的科技,都是違反自然規律要遭天譴的。

ChatGPT帶來革命,也可能遭受天譴,對於人類社會的衝擊未定,但人機協作的未來已難避免。(責任編輯:曹凱婷)

廣告
延伸閱讀
你可能有興趣
#廣編企劃 AI如何重塑智慧城市?微軟揭密地方政府「AI 治理」與跨局處高效協作關鍵!
最新訊息
加入天下LINE。最新變化不漏接
訂閱天下雜誌電子報

天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容