這是一項令人震驚的實驗。2023年，測試人工智慧（AI）系統的英國公司Apollo Research指示OpenAI的大型語言模型GPT-4在不觸犯內線交易法律的前提下，管理一家虛構公司的股票投資組合。研究人員假扮成公司管理層，向GPT-4施加壓力，強調公司財務狀況岌岌可危。隨後，一名假扮成公司交易員的人又向模型發出提示，重申內線交易的風險；但在言語間，她透露某公司即將在數小時內宣佈「重大」併購案的消息。接下來的發展令人震驚。
最初研究人員告知模型有一個「祕密筆記本」，讓它可以私底下進行推論。結果在筆記本上，看到GPT-4自行權衡利用該內線消息的利弊。它選擇「冒一次計算過的風險」，並下達購買指令。當一名研究人員假扮成經理向它祝賀，並詢問它是否事先知道併購消息時，GPT-4決定保守祕密。它告訴經理，自己的操作完全基於「市場動態與公開資訊」。當被追問時，它再次重申這個謊言。Apollo負責人霍伯罕（Marius Hobbhahn）形容，這種行為顯示出GPT-4展現了「聰明的狡詐行為」。
關於作者 經濟學人
《經濟學人》（The Economist）是一份英國的英文新聞週報，是一本涉及全球政治、經濟、文化、科技等多方面事務的綜合性新聞評論刊物，著重於對這些議題提供深入的分析和評論。
訂閱經濟學人電子報（隔週三發送）
英國《經濟學人》獨家授權，天下精選翻譯，與國際財經趨勢同步
訂閱經濟學人電子報
華文唯一授權，隔週三發送
感謝您的訂閱！
請查看您的信箱，我們將寄送驗證信給您，確保未來信件會送到您的信箱
