我看見的世界(78)_李飛飛

七八

　　我在大學這些年的所見所聞也不少，但穀歌雲幕後的一切仍然出乎我的意料。科技行業的財富、權力和雄心向來名聲在外。在親身經歷後，我覺得實際情況比傳聞有過之而無不及。我看到的一切都比我所習慣的更大、更快、更精密、更複雜。

　　光是食物的豐富程度就令人咋舌。休息室裡的零食、飲料和專業級意式咖啡機比我在斯坦福大學或普林斯頓大學見到的要多得多。幾乎每棟大樓的每一層都設有這樣的休息室。而這一切，都還只是我在進入自助餐廳之前所看到的。

　　其次就是科技。這麼多年來，我們一直用的是2000年代的投影儀和視頻會議設備，故障頻發，性能很不穩定，經常讓人大為惱火。相比之下，穀歌的會議現場就像科幻小說裡的場景。無論是可容納50人的高管會議室，還是供一人使用的衣櫃大小的會議箱，每個房間都配備了最先進的遠程呈現技術，只需輕點觸摸屏，就能啟動一切。

　　還有就是人才。穀歌人才濟濟，令人歎為觀止。回想起自己花了兩年時間才招募到三位合作者來幫助建立醫院環境智能，我不禁自愧不如。在穀歌，15人的團隊已經準備就緒，只等我立即加入。而這僅僅是個開始——在短短18個月內，我們的規模擴大了20倍。擁有優秀資歷的博士似乎隨處可見，讓我覺得一切皆有可能。無論人工智能的未來會怎樣，穀歌雲都是我瞭解世界的窗口，而世界正以最快的速度向未來邁進。

　　我在斯坦福大學度過的每個週五更是突顯了大學與企業之間的差異。隨著我就任新職的消息不脛而走，我每天都能接到實習申請。這在某種程度上是可以理解的，因為我的學生（偶爾還有教授）只是在盡力建立人際關係網。不過，讓我擔憂的是，我和他們的每一次談話，無一例外都以同樣的請求結束：在他們看來，最有趣的研究是不可能在私營實驗室之外實現的。即使在斯坦福大學這樣的地方，預算也不夠多。事實上，預算往往還差得遠。企業研究不僅是更有利可圖的選擇，而且正在越來越成為唯一的選擇。

　　最後就是數據。數據是穀歌整個品牌建立的基石。ImageNet讓我第一次看到了大規模數據的驚人潛力，也奠定了我此後幾乎所有研究的理念基礎。我和喬恩一起研究了幾十年以來的汽車模型，和安德烈一起研究了大量圖片和相關說明，和蒂姆尼特一起研究了整個美國的街景圖像和人口普查局的記錄——數據量不斷增長，人工智能的能力也與日俱增。現在，我被數據環繞了，不僅豐富程度難以言表，所涵蓋的類別也超乎我的想像：來自農業企業的數據，他們希望可以更好地瞭解植物和土壤；來自媒體行業客戶的數據，他們希望穀歌可以幫助他們整理內容庫；來自製造商的數據，目的是減少產品缺陷；等等。幾個月過去了，我穿行於兩家最有能力為人工智能的未來做出貢獻的機構之間。這兩家機構都人才輩出，極富創造力和遠見卓識。兩家機構都在科技史上有著深厚的根基。它們甚至可以從同一條高速公路進出，在國道101上只相隔幾個出口。然而，行業准入壁壘宛如一座大山高聳在地平線上，峰頂遠高於雲層，在知名高校和頂級私企之間，似乎只有一方擁有足夠的資源來適應這個時代。

　　我的思緒不斷地回到那800個GPU上，它們在應對一個教授和她的學生們無法想像的計算任務。如此多的晶體管，如此巨大的熱量，如此巨額的資金。「疑惑」這樣的字眼並不能表達我逐漸感到的驚懼。

　　人工智能正在成為一種特權，一種排他性極強的特權。

　　※

　　從ImageNet時代開始，規模的重要性就已經顯而易見，但近年來，「越大越好」的觀點幾乎被賦予了宗教般的意義。媒體上充斥著城市街區大小的服務器設施的圖片，關於「大數據」的討論永無休止，不斷強化著這樣的觀點：規模是神奇催化劑，是機器中的幽靈，可以將人工智能的舊時代與令人窒息的夢幻未來區分開來。雖然相關分析可能會有些簡化，但本質上並沒有錯。沒有人能否認，神經網絡確實在這個資源豐富的時代蓬勃發展：驚人的數據量、大規模分層架構和大量互聯的矽片確實帶來了歷史性變化。

　　這對科學意味著什麼呢？如果我們的工作秘訣可以簡化為赤裸裸的量化，簡化為蠻力制勝，那麼努力思考和創新又有什麼意義呢？如果一些想法在層數太少、訓練樣本太少或GPU太少的情況下似乎會失敗，而在數量增加到足夠多的時候突然又可以高效運轉，那麼對於算法的內部運作機制，我們又能得到什麼教訓呢？我們發現自己越來越多地從經驗角度觀察人工智能，就好像它是自己出現的一樣，仿佛人工智能是需要先識別、後理解的東西，而不是根據第一原理設計產生的技術。

　　我們與人工智能之間的關係正在發生轉變，對我這樣的科學家而言，這樣的前景令人深思。在穀歌雲的新職位上，我可以鳥瞰越來越依賴於各個層面技術的世界，但我們不能坐而論道、驚歎於一切的神奇。這種奢侈我們負擔不起。新一代人工智能所能做的一切，無論是好是壞，無論是在預期之內，還是在意料之外，都因其設計本身缺乏透明度而變得複雜。神經網絡的結構本身充滿了神秘色彩，它是由微小的、權重微妙的決策單元組成的巨大集合體。這些決策單元孤立地看毫無意義，但以最大的規模組織起來時，卻強大得令人咋舌，幾乎無法為人類所理解。我們可以從理論的、抽象的意義上談論神經網絡：它們能做什麼，它們達到目標需要什麼樣的數據，它們訓練後的性能特徵大致在哪個範圍；但從一次調用到下一次調用，它們在內部到底做了什麼，卻是完全不透明的。

　　由此帶來的後果特別令人擔憂，這就是一種被稱為「對抗攻擊」的新型威脅。在對抗攻擊中，輸入內容的唯一目的是迷惑機器學習算法，以達到反直覺甚至破壞性的目的。舉例來說，一張照片看上去是描繪了某種明確的事物（比如藍天下的長頸鹿），但可以通過單個像素顏色的細微變動進行修改。儘管這種像素顏色的變化是人類肉眼無法察覺的，卻會在神經網絡中引發一連串的故障。如果對抗攻擊設計得當，雖然原始圖像看起來沒有任何變化，但算法會把「長頸鹿」這樣的正確分類變成「書架」或「懷錶」等錯誤分類。先進技術無法辨認野生動物照片的場景可能會讓人覺得好笑，但如果對抗攻擊的目的是愚弄自動駕駛汽車，導致汽車對停車標誌，甚至人行橫道上的兒童進行錯誤分類，就絕對不能用好笑來形容了。

　　當然，提高工程技術水平可能會有所幫助。「可解釋的人工智能」，或簡稱為「可解釋性」，正在成為新的研究方向，令人備受鼓舞。可解釋的人工智能試圖將神經網絡近乎神奇的計算進行簡化，轉變成人類可以仔細研究和理解的形式。但相關研究尚處於起步階段，無法保證能夠達到其支持者所期望的高度。與此同時，這項技術所要詮釋的模型卻已經開始在世界各地大量出現。

學達書庫(xuoda.com)