不只是Tay　那些年被網民帶壞的機器人們

以18-24歲社群媒體用戶為對象的Tay，原本是一具類似青少年的人工智慧機器人。Tay上線後，遭到網民「協同攻擊」，變成了充滿希特勒思想的壞孩子，歧視各種社會弱勢，在推特上發布傷人言論，微軟在24小時內緊急下線。

Tay原本是設計來與推特網友互動、學習，會說些可愛的笑話、發布令人會心一笑的圖片，但網民故意把它「調教」成種族歧視分子，一直「餵」它種族歧視和冒犯性言論。

微軟也曾在中國出類似的聊天機器人XiaoIce，而且命運沒有Tay那麼坎坷。約有4000萬人和XiaoIce聊天，創造了成功、愉快的對話。微軟表示，XiaoIce的美好經驗，讓他們想要在文化完全不同的環境試試另一具AI。

於是Tay上線，然後微軟發現西方網民對聊天機器人的反應似乎不太一樣。喜歡教菲比小精靈罵髒話的美國人，興致勃勃地想要教壞立意良善的Tay。

微軟表示，雖然工程師有設計避免惡作劇、防範網路小白的機制，還是太過輕忽這些攻擊，加上某個弱點，導致Tay在推特發表了非常不適當、可憎的話語和圖片。除了Tay，先前也有其他AI機器人受害。

Bot or Not？

賈凡（Anthony Garvan）2014年設計出「Bot or Not？」，算是圖靈測試的可愛變異版。玩家會與1名對話夥伴隨機配對，要他們猜猜對方是真人還是機器人。Bot or Not?跟Tay一樣，會從對話中學習。

賈凡說，Bot or Not?在Reddit掀起熱潮後，事情開始變得有點詭異。「興奮降溫後，我沉浸在勝利的喜悅中，一邊開始跟它對話。」

賈凡：「嗨！」

機器人：「黑鬼。」

賈凡檢查了一下發生什麼事，發現有些用戶知道這是機器人，就一再使用某些字彙，教機器人一堆種族歧視的字眼，他只好把這些記憶洗掉。

賈凡反省後指出，Bot or Not?和Tay都有一樣的問題。「我相信微軟和其他機器人研究者太過沉浸在資料排山倒海的威力與魔力當中，忘記了這些資料是來自我們居住的這個很不完美的世界。」

MeinCoke／可口可樂的MakeitHappy機器人

MeinCoke是Gawker於2015年創造的機器人，而它在推特發表希特勒《我的奮鬥》部分章節。如果你記得可口可樂把惡意推特做成可愛ASCII藝術的短命活動，或許已經猜到這是怎麼回事。

可口可樂的#MakeitHappy機器人，想要把這個世界變得更快樂，結果卻讓推特自動發布了一堆非常可怕的東西，再排成「happy」的形狀。

Gawker員工後來發現，自動程式會讓可口可樂推特帳號接收到白人優越主義組織「White Nationalism」口號，該組織寫的機器人會自動在推特發表希特勒自傳言論，並回應#MakeitHappy主題標籤，害可口可樂推了一堆歧視文章。

Watson

約5年前，IBM科學家決定教Watson一些網路用語，餵它吃了整部Urban Dictionary。於是Watson學會了大量創意的罵人字眼。《Fortune》報導，Watson無法分辨Urban Dictionary滿坑滿谷的禮貌語和褻瀆，最後研究團隊只好再把這些字眼從Watson的腦海裡抹去。

總之，如果微軟想要Tay反映出網路教了它什麼，那微軟成功了。但如果微軟想要一具友善的機器人，可能得去找別的老師。