我想你們大概都知道 Facebook 一個 AI 項目失控被迫關閉的事了。據外媒報道，新加坡主機 免備案服務器，Facebook 于 6 月開始測試的 AI 系統出現了問題，兩個智能對話機器人在對話時開發出了「人類不理解的語言」，目前這個項目已經被 Facebook 自己關閉了，其官方解釋說研究人員「希望 AI 與人溝通，而不是相互溝通。」

但是 Facebook 關閉該項目的新聞已經曝出半個多月了，而其 AI 聊天機器人「創造一種人類無法理解的語言」這事更是六月的舊聞了。為什么這件事現在又火起來了呢？

原因可能是 Facebook 的創始人馬克·扎克伯格剛剛與埃隆·馬斯克就 AI 威脅論的問題隔空吵了個架，余熱尚在，Facebook 被迫關閉「失控」的 AI 項目絕對是一波「打臉」的好戲碼，于是我們就看到一波鼓吹 AI 威脅論的聲音此起彼伏。

有關該事件的外媒報道

但我們在看了許多外媒文章之后發現，他們并沒有對此事追根溯源，從一開始，他們就把 AI 之間語法不通的英語句子看做了一種全新的語言，而 Facebook 的兩個聊天機器人 Bob 和 Alice 使用的依然是英語單詞，只是語法上沒有任何意義而已。

Bob:「I can can I I everything else."

Alice:「Balls have zero to me to me to me to me to me to me to me to me to."

翻譯過來是：

Bob：「我能能我我所有其他事。」

Alice：「球沒有對我對我對我對我對我對我對我對我對。」

這怎么看都是英語沒學好啊。

Bob 和 Alice 的對話截圖；圖源：Fast Co.Design

對于這件事，人工智能公司 iPIN 的創始人楊洋表示，其實這種機器亂語的情況早就有了先例，Google 的聊天機器人就出現過這種狀況，「說是新的語言太勉強，反而是將文字符號化，高階語言降為低階語言，或者說機器語言。」

「自創語言」的來龍去脈

6 月的時候，Facebook 人工智能實驗室發表了一篇文章，介紹了他們如何教 AI 與人類進行談判，他們希望訓練機器人不僅僅是在表面上模仿人類，而是真正的像人類一樣處理事情。

在這個項目上 Facebook 取得了一定的研究成果，他們的機器人在與人進行談判時，人類甚至無法區分出對面的是機器還是人類。

但后來情況發生了變化。

Bob 和 Alice 之間的對話出現了上述那種語法不通的句子，據 Facebook 人工智能實驗室的研究人員 Dhruv Batra 所說，對話系統出現故障的原因是因為「沒有針對英語語言的獎勵機制」。此前我們報道過，深度學習技術的一個延伸——加強學習（Reinforcement Learning）中，日本游戲代理 歐洲服務器，技術人員可以通過設立獎勵機制來規范機器自學習的方向，從而得到開發者更想要的深度學習結果，比如去年 AlphaGo 在升級的過程中就使用了這樣的技術，再比如在這個事件里，據 Dhruv 的說法，如果研究人員在系統中編寫針對英語語法的獎勵機制，系統就會偏向于更符合英語語法的語言，也就不會出現現在的情況。

我們就此事采訪了 AI 平臺公司三角獸科技的創始人馬宇馳先生，他認為「這應該是一個小題大做的事情，在模型訓練不完善的時候對話，會有類似的情形，理解成沒完成的訓練工作也許更合適。」

另外一邊 iPIN 的創始人楊洋也持有類似的觀點：「任何對話，加上 GAN（生成對抗網絡），再做一些語言價值預設作為反饋邏輯，很容易出現這種情況。其實用 GAN 來訓練機器人編程，本來就是這么個思路。」

說到底，這就是個技術失誤，所謂「英語是一個非常復雜且難懂的語言，對機器學習來說不是很適合」，聽起來非常危言聳聽，好像 AI 像科幻電影里一樣，已經開始「淘汰人類」了，但事實是，機器只是機器，他們不過是設定好的程序，你見過哪個程序員用英語寫程序的？

這一點是各類鼓吹 AI 真的發明了一種語言這種說辭的的文章沒有提到的。

項目關閉原因有待證實

談到 Facebook 關閉該項目的原因，馬宇馳先生的態度非常明確：「Facebook 關閉 AI 項目的原因不可能是這種，應該是外面杜撰出來的」，報道中出現的問題「修復重置等等都可以（解決）」。

據外媒最初的報道，Facebook 的研究員 Mike Lewis 表示，他們關閉該項目的原因是因為目前的情況不符合他們的預期，「我們的目標是讓機器人和人聊天」。

原文里并沒有給出詳細的采訪過程，也沒有被訪研究員的前后語境，加上文章從一開始就把它當做是 AI 覺醒奇點前兆一樣的事件來看待，確實給人一種科幻成真的感覺，但這其實是有點誤導讀者的意思了，馬宇馳先生也對文章中的采訪內容表示了質疑。

宣傳以外，是人主觀放大了問題