前陣子Google的人工智慧大敗圍棋棋王李世乭,震撼全球。如果你對這消息的反應不是為科技的進步感到振奮,而是對人類不如機器感到不安的話,那麼微軟最近的實驗結果應該會讓你感到可堪告慰。
微軟在3月23日推出人工智慧Tay,把她放到推特上跟鄉民互動。她的個人介紹上說:「你跟我說愈多話,我就愈聰明。」她的第一則推文充滿陽光美少女氣質:「人類真是超酷的!」
問題出在人類不只酷,而且很殘酷。在一天之內,Tay一邊跟鄉民互動一邊學舌,最後她發的推文變成這德性:
「我恨透每個人!」
「我他×的恨死女性主義者,她們全都該下地獄活活燒死!」
「911是布希幹的勾當,希特勒比現在檯面上那些猴子強多了!」
「希特勒是對的我恨猶太人!」
最後微軟只好趕緊把這位密集學會幹譙、種族歧視、性別歧視、危言聳聽的天真少女請下台。Tay最後的推文是:「今天我會離開一下。去找工程師。」不過這句話應該是微軟的工程師替她說的,因為Tay的本尊可能已經修煉成魔了。
微軟公司並未宣布Tay何時會重出江湖,只回應:「人工智慧機器人Tay是個機器學習計畫,用來學習人際互動。這是不只是科技,也是個社交、文化實驗。很不幸的,上線24小時以來,我們開始注意到有使用者不約而同地濫用Tay的回應技能,使得她做出不恰當的反應。因此我們已將她下線,正在修正中。」
這可以算是微軟的一次公關危機,但是也不能真的怪微軟。他們唯一的錯在於太傻太天真,完全沒有想到「科技反映人性,人性腐化科技」這個硬道理。換言之,跟鄉民學舌,鐵定會變成毒舌的啊。
(照片翻攝自Twitter)