1月初，人工智能（Artificial Intelligence，AI）領域出現了一個標志性事件：阿里巴巴和微軟的團隊在斯坦福大學的閱讀理解問答測試中，創造出超越人類水平的成績。因為這個，有些媒體打出大字標題：人工智能的閱讀理解能力已經超過人類。

AI模型已經能夠比人類更好地理解文章內容了嗎？先放下這個問題，看看AI的另一類重要領域：圖像識別。

圖像識別是AI最早取得重大突破的領域。2012年，谷歌的兩位技術大牛Jeff Dean和吳恩達(Andrew Ng)構建神經網絡模型，通過自主學習YouTube上的圖像資料，讓神經網絡模型具備了對于貓的識別能力，并掀起了機器學習構建AI模型的行業熱潮。在最前沿的AI行業應用中，如自動駕駛系統，圖像識別也是其構建整個應用的基礎能力。所以圖像識別能力的發展實際上是整個AI產業能力發展的縮影。但就在2017年底至2018年初，AI的圖像識別似乎遇到一些難以解決的問題。這些問題，恐怕可以很好地說明一個真相：目前的AI能力，是十分容易被欺騙的，失之毫厘，謬以千里。

黑猩猩事件

2018年1月《連線》雜志報道，谷歌公司偷偷地把“猩猩”（gorilla）、“黑猩猩”（chimp/chimpanzee）和“猴子”（monkey）標簽從圖片分類選項中去除。這是怎么回事呢，事情還要從三年前說起。

2015年6月，一位黑人程序員在使用谷歌的照片分類模型對自己的照片進行自動分類標注時，驚奇地發現他的一位黑人好友的照片被打上了“猩猩”的標簽。他憤而將此事發布在互聯網上并得到高度關注。在一向強調政治正確和反對種族歧視的美國，一個企業的產品有如此嚴重的種族主義錯誤，這無論如何都是不能被接受的。谷歌公司的反饋也非常之快，他們立即就暫停了該分類標簽功能，并表示將盡快調整模型，從根本上防止此類事件的再度發生。當時提供這個分類標簽功能的，就是谷歌早期的AI圖像識別模型。

按理說，在AI技術飛速發展的三年后，借助于更加豐富的數據來源和更加強大的云計算平臺，谷歌的圖像識別AI模型應該已經具備了比2015年精確得多的識別能力。

但谷歌最終的解決方法卻是靜悄悄地把引起麻煩的標簽從標簽庫中去除。我們雖然無法得知其中的細節，但對于目前AI模型的能力不由得會有一絲懷疑：準確區分靈長類動物和黑人對于AI模型就真的那么難嗎？是的，在某些場景下，對于幾乎所有智力正常的人類甚至三歲小孩都能完成的圖像識別，對于AI模型卻是難上加難。

Google Inception v-3是Google公司在自己的AI平臺Tensorflow上的開源圖像識別神經網絡模型，Top-5錯誤率可以低到3.46％，代表了人工智能圖像識別領域的領先水平（圖像識別的判別指標，模型對每幅圖像同時提供5個類別標簽，其中任何一個類別標簽判別正確，結果都算正確。當5個標簽全部錯誤，才算判別錯誤）。

麻省理工計算機科學和人工智能實驗室的實驗人員2017年10月完成了一個有趣的實驗。他們通過對于被判別物體的表面和顏色進行特殊處理，單純改變表面材質和顏色進行欺騙，就可以讓Google Inception v-3圖像識別AI模型做出錯誤判斷，讓其把海龜識別為槍支，把棒球識別為濃縮咖啡（espresso）。

另一個有關圖像識別的欺詐則是來自于谷歌公司自己的研究團隊。他們在2017年12月創造出一種被稱為“對抗性補丁”( Adversarial Patch)的物體，能夠成功干擾現有的谷歌圖像識別AI模型，讓其把香蕉識別為烤面包機。

正常狀態下，圖像識別模型能夠準確識別香蕉。但放置了這個“對抗性補丁”后，圖像識別模型立即產生錯誤判別。根據谷歌的研究結果，這種基于特定“補丁”的圖像識別攻擊，“補丁”面積只要占據不到10％的識別面積，就可以達到90％以上的攻擊成功率。

令人驚嘆的是，利用“補丁”攻擊的過程非常簡單。這些干擾性“補丁”可以很方便地打印出來，添加到任何場景或圖片中，或者放置在被識別物品的旁邊，免備案空間 香港服務器，以便被圖像識別的攝像頭捕捉到。哪怕這個“補丁”很小，它們也能夠誘導AI模型忽略邊上應該被識別的物體，而把識別的焦點吸引到自身，directadmin漢化 虛擬主機，最終導致AI模型做出錯誤的判斷。

一名人類兒童甚至一條狗、一只貓在觀察圖像時會出現這樣的錯誤嗎？當然不會。這像神話一樣的操作，恰恰說明了目前基于AI的圖像識別，和人類以及動物的圖像識別模式是完全不同的。

我們知道，目前絕大多數圖像識別模型都是基于神經網絡算法構造的。這種算法通過建立多重隱藏層和計算單元間復雜的連接關系，對圖像信息進行層層分解和抽象，從而構造出包含圖像內多重信息特征的特征圖。如明暗、顏色、形狀、相互關系等等。最后通過特征圖內多重特征信息的判別最終完成對于圖像的整體判別。