我看見的世界(54)_李飛飛

五四

　　2012年8月，讓我夜不能寐的事情終於不再是ImageNet了——我們的孩子出生了，我的生活主題變成了哺乳、換尿布和永遠不夠的斷斷續續的睡眠。

　　這一年，ImageNet挑戰賽的結果將在意大利佛羅倫薩宣佈，因為孩子的原因，我本不打算親自去參加，但有一天，鄧嘉深夜打來電話。這個時間點很不尋常，我的第一反應是出了什麼事。

　　「喂？」

　　聽得出他很激動，但感覺不像是痛苦，而更像是興奮，準確地說，是迷茫而興奮。因為鄧嘉一向淡定，所以他的語氣讓我格外留意。

　　「是這樣的……我們一直在評估今年的參賽作品，其中的一個算法是……我的意思是……」

　　他遲疑了一下。

　　「怎麼了？是什麼？」我問道。

　　「好吧。獲勝的團隊使用了非正統的算法，是一種神經網絡算法，你敢相信嗎？」

　　我的耳朵豎得更直了。如果說剛才我的注意力還沒有完全集中在他的身上，那麼現在我肯定百分之百地在聽他說話了。

　　「感覺像是……老古董。」

　　我不由得笑了起來。一個21世紀的學生用「老古董」這個詞來形容幾十年前的工作，足以證明我們的領域是多麼年輕（可能也證明我正在變老——我選擇無視這種可能性）。但他說得沒錯。神經網絡是由生物學啟發、層次分明的相互連接的決策單元陣列。由於計算機視覺領域的迅速發展，到了21世紀初，我們中的大多數人已經把神經網絡看成是塵封已久的藝術品，包裹在玻璃罩中，四周用天鵝絨繩索保護，閒人勿近。

　　「真的嗎？是神經網絡算法？」

　　「是的，但還不止這些。飛飛，你不會相信算法的表現有多好。」

　　※

　　飛機窗外一片漆黑。雖然飛機還在跑道上，但還是什麼都看不見。坐在中間座位的我，能看到的只有前排的座椅。我告訴自己：「一會兒就能到佛羅倫薩了。」但我心裡清楚，這只是個幻想。因為臨時決定參加歐洲計算機視覺大會，我不得不放下一切，家庭生活陷入了混亂，但鄧嘉的消息讓我別無選擇。不得不承認，當嬰兒急需照顧時，和父母同住還真是益處多多。

　　訂票的時候，我回想起我和西爾維奧度蜜月時，從舊金山國際機場到佛羅倫薩機場並沒有直飛航班，於是我費了一些功夫找到了能讓我最快時間回家、回到孩子身邊的航線。雖然很不情願，但我最後還是選擇了一趟20小時的航班，飛機空間狹小，肯定也睡不好，唯一的中途停留休息就是轉機，可能在巴黎、蘇黎世或其他一些我在迷迷糊糊狀態下無法辨認的標誌性城市。但現在已經無法回頭了。飛機開始在跑道上緩緩滑行，引擎開始轟鳴。擴音系統裡傳出廣播：抬起小桌板，系好安全帶。我想睡一會兒，但思緒卻翻滾個不停。

　　我一直在思考這次的獲勝算法。它的識別準確率高達85%，比上一年的冠軍高出10個百分點，創造了計算機視覺領域的世界紀錄。可以用一個數據來說明這個準確率的意義：我所看到的研究表明，人類的平均識別準確率約為97%，而這還是對簡單得多的二元選擇而言（比如判斷一張照片上是否有動物）。相比之下，算法需要篩選上千個選項才能找到正確答案。因此，雖然這個算法還沒有達到人類的水平，但已經比其他任何算法都更加接近，而且差距已經小到驚人。

　　飛機廣播「嘟」了一聲，然後傳來機長的聲音：我們已進入巡航高度。

　　這個參賽算法最令人驚訝的地方，也許在於它提高準確率的具體方法。儘管發展了數十年的支持向量機等現代算法已經引起廣泛興趣，並曾在前兩年的比賽中獲勝，但這次獲勝算法的研發團隊卻選擇了讓神經網絡重出江湖，並在比賽中大顯身手，把第二名遠遠甩在身後。冠軍算法名為AlexNet，是向這項技術和項目的主要作者、多倫多大學研究員亞曆克斯·克裡熱夫斯基（Alex Krizhevsky）致敬。

　　飛機遇到氣流，顛簸了一下。

　　準確率竟然在短短一年內大幅提高了10個百分點？而且是通過神經網絡實現的？飛機從一個時區穿越到另一個時區，我的大腦運轉不停。這就像是聽說一輛本田思域以每小時160千米的速度差打破了陸地速度的紀錄。根本不可思議。進步不應該是這樣的。

　　還是說，進步就是這樣的？我想到了鄧嘉在論文中闡述的內容，包括在使用ImageNet進行算法訓練時的一些發現。在小型數據集上運行良好的技術，在大型數據集上訓練時卻突然表現不佳，反之亦然。有沒有可能，神經網絡一直以來都更適合理解ImageNet這種更大、更密集的可能性空間？有沒有可能，神經網絡一直都能同時應對類別總數的大幅增加和類別間差異的急劇縮小，而它最先進的競爭對手卻做不到？我急切地想找到更多線索，於是打開筆記本電腦，調出了AlexNet團隊在參賽算法中附帶的幻燈片，仔細研究他們所做的設計選擇。

　　AlexNet是卷積神經網絡（Convolutional Neural Network，CNN）的一個實例。卷積神經網絡的叫法源於圖形卷積過程。在這個過程中，一系列濾波器在圖像上掃過，尋找與網絡所識別事物相對應的特徵。這是一種獨特的有機設計，靈感來自休伯爾和威塞爾對哺乳動物視覺系統的觀察，即視覺處理在多個層次上進行。就像在自然界中一樣，卷積神經網絡的每一層都會逐漸整合更多的細節信息，從而形成越來越高層次的感知，最終將真實世界的物體完整地呈現在我們的視野中。

　　這樣就形成了一種類似視網膜的算法，凝視著周圍的環境。就像真正的眼睛一樣，算法的最外層把成千上萬個感受野應用於圖片的像素，每個感受野都經過特定調整，能夠識別出獨特的微小圖案，並在遇到這種圖案時被激活，比如以一定角度傾斜的對角線邊緣、兩種色調之間的模糊混合、條紋圖案或明暗交替等等。在這種感知水平上，濾波器可以對任何事物做出反應，比如小狗皮毛的圖案、廚房櫃檯的邊緣，或者陽光下玫瑰花瓣輪廓上的閃光。事實上，AlexNet能夠捕捉到所有這些特徵，甚至更多，這不僅是因為它接受了ImageNet的訓練，更重要的是，這種算法忠實於生物視覺的進化本質。研究團隊沒有預先決定網絡應該尋找哪些特徵，而是讓數十萬個神經元在沒有人工干預的情況下，完全依靠訓練數據逐漸學習到自己的敏感度。AlexNet就像生物智能一樣，也是自身所處環境的自然產物。

學達書庫(xuoda.com)