我看見的世界(85)_李飛飛

八五

　　新入行的人產生懷疑情緒是很正常的。但在實驗室裡，以人為本的精神隨處可見，白板上還留著前一天晚上的項目筆記，這個項目的目標是在保護信息所有者隱私的同時，利用敏感信息對神經網絡進行訓練；另一個類似的項目則是在不影響最終模型有效性的前提下，將圖像數據集中的人臉進行模糊處理。

　　我們甚至也開始用批判的眼光審視自己的研究成果。ImageNet包含了我們最初從互聯網上搜羅的數百萬張照片，我們通過研究，對數據集吸收的偏見（包括種族、性別和性取向）進行量化。在研究結果的指導下，我們替換了大量圖片，以更加平衡地展現人類群體的全貌，並刪除了具有冒犯性的類別標簽。

　　也許最鼓舞人心的——至少對我來說——是我們的工作從未如此貼近現實世界。一位初級研究員的機器夾不起吐司固然令人遺憾，但除此之外，這十年來，機器感知領域的復興已經從根本上改變了機器人技術，現在已經很難將其與人工智能本身區分開來。仿佛是為了說明這一點，金屬長凳上擺了兩條光滑的機械手臂，它們的名字非常親切，一個叫作「查理」，一個叫作「艾達」，正在耐心地等待下一次訓練。如今，它們就像任何算法一樣，已經成為我們實驗室工作不可或缺的一部分。

　　當然，硬件再先進、再亮眼，也只是達到目的的一種工具。因此，我們工作的指導原則依然關注人類的福祉，而不僅僅是追求程序的效率。這就是我們與數字經濟實驗室合作背後的理念。數字經濟實驗室是斯坦福HAI下屬的成立不久的研究小組，這個小組利用美國勞動局的調查結果，以更好地瞭解人們對於自身工作價值的看法：他們在哪些方面歡迎自動化帶來的便利，在哪些方面認為自動化的滲透具有威脅性，甚至是非人性化的。我首次意識到這種區別，是在跟阿尼一起研究環境智能的時候。我認識到，人工智能應始終致力於提高人類的能力，而不是與人類競爭。現在，這一理念成為我們實驗室的基本價值觀。這種價值觀究竟意味著什麼，這是每個研究人員都要自己回答的問題，但令人振奮的例子比比皆是。例如，我們實驗室最重要的工作之一，就是對住宅、辦公室和醫院等日常空間進行極其細緻的三維建模，而每個空間都有各種不同的種類、平面圖和風格。我們努力讓算法沉浸在人們生活和工作的環境中，沉浸在智能機器可能發揮最大作用的應用場景中，尤其是幫助身患疾病和殘疾的人群。一個相關項目通過使用虛擬現實頭盔和運動跟蹤手套，幫助研究人員捕捉有形、有意義的任務（如疊衣服、準備食物等），並對動作進行數字編碼，由此創建評估機器人性能的基準。還有一項研究探索了新的機器學習方法。研究人員設計出了具有天生好奇心的數字代理機器，並將其置於鼓勵它們玩耍的虛擬環境中，因為玩耍是兒童與周圍環境建立直覺聯繫的重要方式。

　　每一個故事都代表著一個變化——我們對數據的看法發生了變化，對數據的期望也發生了變化。我們曾經試圖給算法類似百科全書式的意識，希望算法可以識別所有的類別和事物，而現在，我們的目標更為廣泛。我們想對萬事萬物所蘊含的空間、時間甚至意義有更深入的瞭解。我們的目標不僅僅是數量上的增加，還有細節和細微差別的擴展。新的數據處理方法不僅僅是簡單的整理和編目，而是要模擬整個環境，模擬在環境中展開的行動。這就是為什麼隨著技術複雜性出現爆炸式增長，我們研究背後的人本主義也在不斷發展。要形成對現實生活的整體觀，為了創造比以往任何時候都更加真實的世界表徵，我們需要深度和保真度，而在我看來，即使目前最先進的技術也達不到這種需求。因此，我們再次熱血沸騰，迎接挑戰。我們再次需要進化。

　　＊

　　當然，進化的確切形式仍是個謎，但耐人尋味的蛛絲馬跡已經初露端倪。隨著進化所需的數據集規模日益增長，組織足夠的人力所涉及的成本、時間甚至倫理問題不斷增加。近年來，更具影響力的發展之一是出現了越來越多的模型訓練新方法，這些方法可以突破人工整理數據集出現的瓶頸。模型的數據處理能力主要包括模型規模、並行操作的能力，以及自主識別有用模式的能力（文獻中稱之為「注意力」）等方面。模型在數據處理方面的進展使得用大規模數據集進行訓練成為可能。有時，數據集的規模甚至構成了互聯網的很大一部分。以文本為例，訓練數據通常包括整個維基百科、各大圖書館的書籍和學術期刊，甚至是像Reddit這類在線論壇的歷史帖子。在對每個單詞、空格和標點符號進行分析之後，就可以生成人類語言的統計模型。這個模型是如此龐大，卻又如此濃縮，只需要簡短的提示，就可以讓想法的種子變成茂密的參天大樹，將一句話（無論是問句、陳述句還是對話）擴展成一篇洋洋灑灑的生動散文。這些模型現在通常被稱為「大型語言模型」（Large Language Model，LLM），其所呈現的語句極為流暢，與人類的語言能力驚人地接近，讓讀者很容易忘記自己閱讀的文字其實並不是真人寫的。

　　經過多年的計算機視覺研究突破，大型語言模型正在推動自然語言處理的復興，也很可能預示著人工智能的下一個偉大時代即將來臨。具體而言，一種稱為Transformer的新型機器學習模型成為自2012年的AlexNet以來神經網絡設計中最大的進化飛躍。Transformer具備了所有讓大型語言模型成為可能的必要特性：規模龐大，通過處理大量並行數據塊來加速訓練，並擁有極其複雜的注意力機制。不管怎麼看，Transformer都是一個里程碑，甚至可以說是一個轉折點；它一經發佈，就立刻展示出了驚人的能力，甚至連其背後的專家們都感到震驚，而這些進展至今都沒有放緩。

學達書庫(xuoda.com)