Facebook AI “發(fā)展出人類無法理解的語言” 火了，但這實(shí)際上源自一些媒體的誤讀和炒作。研究計(jì)算機(jī)是否能（非監(jiān)督地）獨(dú)立產(chǎn)生自己的語言本身非常有意義，因?yàn)檫@是檢驗(yàn) AI 是否理解人類高級(jí)語義和抽象概念的好方法。但具體到這件事，Facebook 的 AI 并未發(fā)明自己的語言（Facebook 人工智能研究院也從未宣稱 AI 發(fā)明了語言），這只是程序的 Bug。本文將全面回顧和分析這個(gè)事件，看一段跑崩了的對(duì)話，如何引出了這場(chǎng)眾說紛紜的爭(zhēng)論。
最近 Facebook 的一個(gè) AI 項(xiàng)目火了，而且火得不要太好——稍微上網(wǎng)一搜就能看到：
AI 機(jī)器人發(fā)展出自己的語言，Facebook 的工程師們慌了
Facebook AI 發(fā)明出人類不能理解的語言，擔(dān)心失控項(xiàng)目已被關(guān)閉
難道我們?nèi)祟愒斐隽艘粋€(gè)怪物？
還有一家英國小報(bào)引用一位機(jī)器人學(xué)教授的話，說這一事件表明，如果類似的技術(shù)被用于軍事機(jī)器人，將“非常危險(xiǎn)，并且可能是致命的”。
更多的新聞延伸到未來的機(jī)器人革命、殺人機(jī)器人、惡意的人工智能，各種各樣的有關(guān)人類滅絕的想象。所有這些，無不引用 Facebook 兩個(gè)聊天機(jī)器人這樣一段對(duì)話：
Bob: I can i i everything else ..............
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else .............
Alice:balls have a ball to me to me to me to me to me to me to me to me
有圖有“真相”：
看上去恐怖嗎？
一篇報(bào)道引發(fā)的慘案：AI 發(fā)明了自己的語言？？
這一切的起因是，上月中，F(xiàn)astCo Design 網(wǎng)站針對(duì) Facebook 利用“生成對(duì)抗網(wǎng)絡(luò)”開發(fā)對(duì)話談判軟件的努力做了一篇報(bào)道。這篇報(bào)道引用的兩個(gè) bot，其設(shè)計(jì)的目的是證明：“具有不同目標(biāo)（端到端訓(xùn)練神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)）的對(duì)話智能體，能夠從頭到尾地與其他 bot 或人類進(jìn)行談判，并達(dá)成一個(gè)共同的決策或結(jié)果”。
兩個(gè) bot 針對(duì)給定的話題（例如書籍，帽子，球，都是一些無害的物體），討論如何分割成雙方都同意的部分，除此以外并不做其他事情。
這樣做的目的，是開發(fā)一個(gè)可以從人類的互動(dòng)中學(xué)會(huì)談判交易的聊天機(jī)器人，它能夠非常流暢地進(jìn)行對(duì)話，終端用戶甚至不會(huì)意識(shí)到他們?cè)谂c機(jī)器人對(duì)話。
就這么簡(jiǎn)單。
然而，F(xiàn)ASTCO 的報(bào)道寫道，“FAIR 的談判智能體利用強(qiáng)化學(xué)習(xí)和對(duì)話推演（dialog rollouts），表現(xiàn)與人類談判相當(dāng)……這證明 FAIR 的 bot 不僅能講英語，并且對(duì)要講什么也是有過思考的。”
更要命的是，文章引用了專業(yè)人士的評(píng)價(jià)——“智能體會(huì)脫離人類可以理解的語言，美國云服務(wù)器 江西電信服務(wù)器，發(fā)明自己的代碼語言。”那篇文章引用 FAIR 訪問研究員 Dhruv Batra 的話說，“就好比我說 5 遍 ‘the’ 這個(gè)單詞，你會(huì)理解為我想要 5 個(gè)這個(gè)東西。這與人類發(fā)明簡(jiǎn)略表達(dá)的方式并沒有太大不同。”
于是事情一發(fā)不可收拾。
Facebook 研究人員親自辟謠：我根本不是那個(gè)意思
在繼續(xù)討論前，我們先來看 FAIR 訪問研究員 Dhruv Batra 自己的澄清。
Dhruv Batra 是 FAIR 研究員，也是對(duì)話模型那篇論文作者之一，他在自己的 Facebook 主頁回應(yīng)道：
我剛從 CVPR 回來，就發(fā)現(xiàn)我的 FB/Twitter 的時(shí)間流充滿了這些說 Facebook 的研究員開發(fā)的 AI 智能體發(fā)展出自己的語言，描述各種世界末日景象的文章。
我不想針對(duì)某篇具體的報(bào)道，或者對(duì)某個(gè)斷章取義的引用提出具體的回應(yīng)，但我認(rèn)為這樣的報(bào)道只是為了賺眼球，非常不負(fù)責(zé)任。
AI 智能體發(fā)展出自己的語言這種說法可能令人震驚，或讓這個(gè)領(lǐng)域之外的人感到意外，但這是發(fā)展了很多年的 AI 的一個(gè)子領(lǐng)域，相關(guān)研究文獻(xiàn)可以追溯到幾十年前。
簡(jiǎn)單地說，環(huán)境中的智能體試圖解決一個(gè)任務(wù)時(shí)，通常會(huì)找到一種方式來最大限度地提高回報(bào)（reward）。分析這個(gè)回報(bào)函數(shù)并改變實(shí)驗(yàn)中的參數(shù)，與“關(guān)閉 AI 項(xiàng)目”完全不是一回事！如果這能一樣的話，每個(gè) AI 研究者在停止某個(gè)機(jī)器的工作時(shí)都在“關(guān)閉AI項(xiàng)目”。
Batra 希望大家都閱讀一下他們的研究論文或者 FAIR 博客上的介紹文章，并閱讀各個(gè)研究團(tuán)體有關(guān)多智能體語言出現(xiàn)的文獻(xiàn)。
業(yè)內(nèi)討論：參數(shù)沒調(diào)好，對(duì)話跑崩了
用戶“蔡曦”結(jié)合報(bào)道中提到的 Facebook 論文《Deal or No Deal？End-to-End Learning for Negotiation Dialogues》，做了比較詳細(xì)的分析。
