我看見的世界(57)_李飛飛

五七

　　ImageNet規模巨大，算法學習也註定是個漫長的過程，即使只是為比賽挑選的1000個類別的子集，完成學習也需要很長時間。ImageNet涵蓋了各種各樣的對象，比如數字鐘、籬笆、盤式制動器、秒表、意大利灰狗、微波爐、醋栗，每個類別都有上千個不同的品種。不過，AlexNet本身也是個龐大的網絡。它有65萬個獨立神經元，通過6.3億個連接組成網絡，其中有6000萬個微小的、幾乎無法察覺的權重影響著連接的強度，當信號從網絡的一端流向另一端時，一些連接會增強，另一些則會減弱。

　　作為整體，這些連接提供了一張巨大的畫布，足以描繪整個世界。在一輪又一輪的標注中，權重不斷變化，有的變強，有的變弱，有的搖擺不定，形成了一種柔韌結構，對訓練做出有機的優雅反應。承載這些龐大數據的是兩個英偉達圖形處理器，高度專業化的矽芯片並行工作，以最快速度進行著一輪又一輪運算。

　　訓練從早到晚不停地進行，直到每幅圖像的每個像素都被研究完畢。幾個小時變成幾天，幾天又變成一周。圖形處理器推動之。ImageNet挑戰之。AlexNet適應之。隨著數以千萬計的權重一次又一次地調整，整個網絡出現了更龐大、更奢侈的結構。就像鐵匠用錘子敲打發光的鋼鐵。每次微小的增量積累，直到近乎肉眼不可見的擾動變成山脈和山谷，延伸到數千維的超空間。這個網絡是世界無數細節的幽靈般的均值，是1000種不同事物、每種事物1000幅不同照片留下的痕跡。這裡有1000只達爾馬提亞犬，那裡有1000個洗衣籃，另一處有1000個馬林巴琴。

　　就像地質變化一樣，種種印記凝聚成了地形，從AlexNet的一端延伸到另一端。削筆刀、清真寺、海星、曲棍球——所有事物都鑲嵌在這個地形之中。算法不僅「看到」了這些東西，還成為它們。我們花了數年時間在互聯網上搜尋照片，這些照片形成了完整多元的機器意識空間，原始而強大，成為世界一切事物的統一表徵。

　　在經過140萬輪標注後，最後幾張圖片與其說是一場磨煉，不如說是一場加冕禮。網絡的焦點穿過像素，隨著熟悉模式的識別而亮起，並傳遞到下一層，與其他模式相結合，形成越來越強大的感知。算法的反應不再是隨機的，大多數也不再是錯誤的。土狼。正確。檯燈。正確。敞篷車。正確。顯然，這是硬件、軟件和數據的神奇組合，比計算機視覺領域所打造的任何成果都更接近於捕捉到塑造了人類這種哺乳動物思維的進化精神。

　　ImageNet的多樣性是在全世界眾包志願者的共同努力下實現的。它所形成的拓撲結構無比多樣、強大，達到了聖杯的境地。AlexNet是計算機視覺領域有史以來最大的神經網絡，它的訓練數據比此前任何神經網絡都要豐富，而且具備了泛化能力。

　　我們要花上幾個月的時間，才能真正理解在那個會議室裡看到的一切，但即使在那一刻，我們也清楚地知道我們正在見證非凡之物。這麼多年來，我一直希望ImageNet能夠推動新事物的誕生，現在我終於明白，一切的一切，都是為了認可和表彰一種永恆的成就，我們對此刻期待已久。受生物學啟發的算法幾十年來一直凝視著我們，它只是需要適當的挑戰，才能充分展現出來。

　　這個下午也讓我們有機會回顧計算機視覺領域在過去10年的發展歷程。我的實驗室將所有賭注都押在了長達數年的、規模空前的數據追尋上，而辛頓的實驗室則將他們的聲譽都押在了卷積神經網絡這套幾乎已經被專業領域拋棄的算法上。我們都在賭，都有可能賭錯。但在那一天，當我們看到神經網絡在ImageNet強大訓練能力的支持下展現出的驚人能力時，我意識到，雖然兩個項目都獲得了認可，但這只是因為它們是同步發展的。所有參與者都不知道，我們的每一步都相互依賴。

　　我往返佛羅倫薩的飛行時間比在佛羅倫薩當地待的時間還長。但在返程的航班上，我的感受與來時完全不同。飛機上的擁擠程度絲毫未減，我的疲憊感更加濃重，但思緒已經不再飛速奔湧——至少不像來時那樣。我親眼見證了成果。沒有錯誤，沒有疏忽，也沒有文書方面的失誤。神經網絡起死回生，比以往任何時候都更龐大、更複雜、更強大。ImageNet已經教會了它們所需知道的一切，讓它們在一次嘗試中就達到了與人類能力相當的水平。

　　生物視覺的出現導致遠古海洋波濤下的寒武紀大爆發，距今已經5億年。而如今，我們很難不去聯想：我們是不是正處於一個類似拐點的邊緣？機器視覺的興起是否會引發一輪數字進化新浪潮呢？

　　我在來時飛機上狂躁的思緒和焦灼的問題一掃而空，取而代之的是一種意外的感覺。不是平靜，而是大悟，是沉思。這一次，從起飛到著陸，我一直靜靜地坐著，腦子裡只回蕩著一個念頭：歷史剛被創造出來，而世界上只有少數人知道。

學達書庫(xuoda.com)