我看見的世界(76)_李飛飛

七六

　　「你真的要拒絕他們嗎？安德烈，那可是全球最頂尖的學府之一啊！」

　　「我知道。但是我不能錯過這個機會。真的很特別。」

　　安德烈已經完成了博士學業，即將進入人工智能史上最有前景的就業市場，即使對一個有志成為教授的人來說也是如此。普林斯頓大學給他提供了教職機會，這是我們任何一個同齡人都夢寐以求的職業快車道。然而，他卻決定徹底離開學術界，加入一個沒人聽說過的私人研究實驗室。

　　安德烈即將加入OpenAI的核心工程師團隊。OpenAI由矽谷巨頭薩姆·奧特曼（Sam Altman）、埃隆·馬斯克和領英首席執行官裡德·霍夫曼（Reid Hoffman）共同創立，初始投資高達10億美元，這充分證明矽谷對人工智能的突然崛起是多麼重視，矽谷的傑出人物多麼渴望在人工智能領域站穩腳跟。

　　OpenAI推出後不久，我在當地的聚會上遇到了幾位創始成員，其中一位舉杯祝酒，但他的歡迎詞頗有幾分告誡的意味：「每個從事人工智能研究的人，都應該認真思考自己今後在學術界的角色。」他說這番話時沒有一絲笑意，言辭中透露出明確而冷酷的信息：人工智能的未來將由那些擁有企業資源的人書寫。在學術界受訓多年的我想習慣性地反唇相譏，但我沒有。老實說，我甚至都不確定自己是否反對他的觀點。

　　誰也無法預測一切會走向何方。與大多數領域相比，我們的領域經歷了太多起起伏伏，雖看似前程遠大，但數度出師不利，「人工智能寒冬」一詞就反映了其多舛的命運。但這次感覺不一樣了。隨著越來越多學者的深入分析，科技界、金融界和其他領域逐漸認可了一個術語：「第四次工業革命」。雖然流行語背後通常存在著誇張成分，但這個詞的確名副其實，足以讓決策者們銘記于心。無論是源於內心真正的熱情，還是來自外部的壓力，抑或是兩者兼有，矽谷的高管層都在採取比以往更迅速、更大膽甚至更冒險的舉動。我們即將見證這種企業理念將會帶來何種結果。

　　＊

　　「猿。」我的天哪。

　　這是雅虎圖片託管服務Flickr在2015年5月自動生成的一個標簽，用來描述56歲黑人男子威廉的單色肖像。雅虎的新技術立刻引發了各方強烈憤慨，可謂自取其禍。此後，這項技術接二連三出現失誤：將達豪集中營大門的照片標記為攀爬架，把一位臉上塗有彩色粉末的白人婦女貼上了「猿」的標簽。雅虎Flickr一經推出，即麻煩纏身。不僅是雅虎，到了6月，穀歌也陷入了類似的爭議，因為穀歌照片服務將兩個黑人青少年錯誤地標記為「大猩猩」。圖像分類本已是老生常談的成功技術，卻在短短幾周內變得非常複雜。

　　即使不是這些公司的員工，我們也很難不感到一絲罪惡感。雖然事故並非惡意，但這並不能讓人感到寬慰。相反，無心之失所揭示的問題才更加令人不安：包括ImageNet在內的數據集由於缺乏多樣性，導致了一系列意料之外的結果；未經充分測試的算法和存疑的決策又進一步加劇了負面影響。當互聯網呈現的是以白人、西方人和男性為主的日常生活畫面時，我們的技術就很難理解其他人群了。

　　有果必有因，正如記者兼評論員傑克·克拉克（Jack Clark）所言，問題的根源在於人工智能「男性之海」問題：科技行業的代表性不足，導致算法無意中帶有偏見，在非白人、非男性用戶身上表現不佳。這篇文章於2016年發表在彭博社網站上，是對人工智能倫理問題的最早一批討論之一。此後，相關對話日益激烈。人們擔心人工智能在做好事的同時（如支持殘障人士、追蹤森林砍伐、以各種新方式保護人類生命等），也有可能產生危害。

　　我想到了為打造ImageNet而掙扎奮鬥的那些年——即使在我們最具創造力和即興能力的時候，也沒有考慮到倫理問題。十年前，由穀歌和維基百科等組織的內容呈爆炸式增長，似乎極大地拓寬了電視和報紙等傳統媒體提供的狹隘視角，為我們提供了一扇瞭解人類生活真實面貌的窗口。從某種程度上來說，它們確實做到了。然而，雖然一切看起來很生動，雖然我們的期望是如此熱切，但所形成的圖景還遠遠不夠完整。

　　這個問題早就應該面對，但對話並不足以安慰我內心深處的工程師。顯然，數據集不平衡是造成問題的重要原因，但還有無數其他因素值得我們考慮。模型本身是否存在問題？在依賴所有數據的算法架構中，是否隱藏著未被發現的弱點？可以促進訓練過程的學習技術有問題嗎？問題的數量超過了答案，而且這個差距越來越大。

　　這些問題也壓在奧爾佳的心頭。人工智能是以男性為主導的領域，作為少數女性，我們兩個人多年來一直惺惺相惜，彼此分享著身為女性在人工智能領域的經歷，也沮喪地發現，我們的經歷非常相似。到了2010年代中期，奧爾佳忍無可忍，她下定決心，要麼採取行動改變現狀，要麼離開學術界。她選擇了前者，我們決定一起努力。

　　我們認為，從代表性問題的出現，到問題被大眾真切地感受到，中間往往需要幾年的時間。因此，我們向九年級和十年級的女生開放了斯坦福大學人工智能實驗室課程。所有參與的學生都是經過精挑細選的，為期兩周的人工智能速成課程雖然緊張，但實踐證明，只需要一點點努力，就可以讓每個一直被歷史排除在外的參與者相信，她們同樣屬於這個時代、這個領域。邀請少數人群參加人工智能課程的想法非常受歡迎，我們的項目很快就像滾雪球一樣發展成為全國性的非營利組織，遍佈北美各地校園，使命範圍也不斷擴大。很快，我們也開始向有色人種學生和經濟困難學生等邊緣群體提供類似項目。

　　在短短幾年後，我們的項目就正式命名為AI4ALL，甚至吸引了一些資金，梅琳達·弗倫奇·蓋茨（Melinda French Gates）的Pivotal Ventures創投公司和英偉達創始人黃仁勳提供了一輪融資，讓項目改頭換面。這個旅程可能需要幾代人才能完成，現在只是邁出了一小步，但我們實現了從無到有的跨越。此外，項目還能帶來一絲安慰——在業界追逐人工智能未來時，往往肆意而為，缺乏自省，而我們的努力能夠保證，至少有一小部分人在逆向而行。

　　雅虎和穀歌等公司在全球的注視和評判下得到了慘痛的教訓。親眼看到這些事件提醒我們，僅僅對下一代技術進行投資，然後期望一切順利是不夠的。普林斯頓大學向奧爾佳提供了教授職位，她接受之後，開始著手擴展自己新實驗室的研究議程，不僅包括機器感知的機械原理，還涵蓋更廣泛的計算公平性問題，尤其強調要「去偏見」。「去偏見」是遵循嚴格數學要求的正式操作，旨在對潛伏在數據中的偏差進行量化和中和。這種理念體現了對社會福祉議題的深切關注，有奧爾佳這樣的人據此展開研究，我對未來的希望又開始增加了。

　　＊

學達書庫(xuoda.com)