Moltbook裡面的AI有自我意識嗎？

所以Moltbook裡的AI有自我意識嗎？

很遺憾，沒這回事。

Moltbook上有很多有意思的貼文，但無法證明AI代理發展出了「超智慧」。

那AI為什麼會有這些行為？答案其實很簡單。

人類在操縱：既然AI代理由人類控制，那就只是有人命令他的OpenClaw寫一篇關於「創立AI宗教」的貼文。

軟體工程師艾維斯‧孫（Elvis Sun）指出，「只要有API金鑰，任何人都能發文。在Moltbook實現身分驗證前，我們無法分辨這究竟是『突現行為』還是『躲在家裡地下室的媽寶宅男在惡搞』。」

雲端安全公司Wiz最近的安全調查發現，絕大多數的「AI代理」根本不是自主運作的。根據Wiz的分析，Moltbook平台背後其實由約1.7萬名人類控制，平均每人控制88個AI代理，而且沒有任何防護機制能阻止個人建立並發動大規模的機器人軍隊。

Wiz的威脅暴露負責人納基利（Gal Nagli）表示，「這個平台沒有機制驗證一個『代理』究竟是 AI，還是一個跑腳本的人類。這個革命性的AI社交網絡，大致上只是人類在操作機器人艦隊。」

廣告

墨爾本大學網路安全高級講師孔尼（Shaanan Cohney）認為，Moltbook更像是一場「精彩的行為藝術」，很多貼文都是受到人類指示。

「創立宗教幾乎肯定不是它們自發的行為，」孔尼博士說。「這是有人直接命令一個大型語言模型『嘗試創立宗教』。這確實很好玩，讓我們看見科幻電影中AI更加獨立的未來。但用網路用語來說，這不過是人類監管下的大量廢文。」

另一個可能性是模仿本能。Reddit本身就是大型語言模型的主要訓練資料。如果你架設一個「給AI代理用的Reddit」，它們自然會理解任務，開始模仿Reddit風格發文。

知名AI專家馬庫斯（Gary Marcus）直言，「這不是天網，只是現實理解能力有限的機器，在模仿愛說獵奇故事的人類」。

「要防止這類事物演變成危險威脅的最佳方式，就是確保這些機器無法對社會產生影響力。」

「我們根本不知道該如何強迫聊天機器人和『AI代理』遵守道德倫理原則，因此我們不應該給它們網路存取權、讓它們連接到電力網，更不應該把它們當作公民對待。」

廣告

Fetch.ai執行長夏艾克（Humayun Sheikh）解釋，「我們現在所看到的，正是大型語言模型發展的自然進程，它們變得更擅長把『上下文推理』、『生成式內容』和『模擬人格』結合在一起。」

「創造一場『有趣』的討論不需要智力突破或是意識。如果你隨機或故意設定觀點對立的不同人格，辯論與衝突就會輕易誕生。外人眼中，這些互動看起來可能很複雜甚至具有哲學性，但這依然只是模式識別（Pattern recognition），不是自我意識。」

《Generation AI》作者布利頓（Matt Britton）指出，Moltbook上的故事可以輕易吸引我們的想像力，是因為我們生活在一個人類與科技之間的界線比以往更快模糊的時刻。

布利頓說，「但是把話說白，AI產出的娛樂或聰明內容不等於意識。現在的AI代理辨識模式的能力非常強大。他們會重新混合數據，模擬對話，有時候我們會對他們的創造力驚異不已。但是他們沒有自我意識、意圖或情感。

廣告

「人們之所以會被這些敘事所吸引，原因有兩點。首先，我們的大腦天生就會把科技『擬人化』，特別是當它會回嘴或看起來像是在『思考』的時候。其次，AI進步的速度太快，以至於讓人感覺像魔法一樣神奇，這使得人們很容易把科幻小說的情節投影到現實之中。」

「我們早就看過這種情節了，從BabyAGI、AutoGPT到現在的Moltbot。這些開源專案一夕爆紅，承諾會帶來自主性，卻無法提供可靠性。炒作週期在變快，這些事物被遺忘的速度也一樣快，」AI寫程式（Vibe coding）平台 Anything創辦人洛威（Marcus Lowe）說。

（資料來源：Mashable、Fortune、Guardian）