我看見的世界(79)_李飛飛

七九

　　即使是完全可解釋的人工智能也僅僅是第一步。如果在算法設計完成後，再加入安全性和透明度等考慮因素，無論設計得多麼精妙，都不足以滿足要求。下一代人工智能必須從開發之初就採取與現在完全不同的理念。以激情為起點固然很好，但我們要面對的是紛繁複雜而又不起眼的挑戰，要取得真正的進展，就必須有敬畏之心。而矽谷似乎缺乏這種心態。

　　學術界早就意識到人工智能可能會帶來負面衝擊，比如缺乏透明度、容易受到偏見和對抗性影響等等。然而，由於研究規模有限，風險一直只存在於理論層面。我的實驗室最有現實影響力的工作是環境智能研究。由於臨床法規的制約，我們對工作熱情保持謹慎和克制，因此有足夠的機會來應對相關隱患。但現在，市值接近萬億美元的公司已經掌握了主導權，潛在風險的發展步伐也急劇加快。無論是否準備就緒，這些問題都需要以商業速度加以解決。

　　每個問題單獨來看都令人擔憂，但它們共同指向了一個未來，其特點是監督減少、不平等加劇，如果處理不當，甚至可能導致迫在眉睫的數字獨裁主義問題。走在全球最大公司之一的走廊裡，我不禁陷入沉思，問題的確很尷尬，尤其是考慮到同事們的誠意和良苦用心。這些都是制度性問題，而不是個人問題。現在還沒有出現鬍子拉碴的典型惡棍，我們還沒有遇到真正的現實問題，此時提出這些挑戰，只會讓人更加困惑。

　　我回想起與阿尼共事的情景，想起當時要在幾家醫院部署手工製作的小型原型設備是多麼困難。在高度謹慎的醫療領域，創新是逐步展開的，雖然有時令人沮喪，但總體上也讓人感到心安。我想知道醫療領域的做法是否值得廣泛效仿。

　　矽谷的傲慢態度向來為外界所詬病。在人工智能時代，儘管我們對潛在風險的認知不斷加深，企業的誇誇其談也上升到了新的高度。首席執行官們在世界各地的舞臺上發表主題演講，有些內容高瞻遠矚，有些則拙劣不堪，還有一些是徹頭徹尾的侮辱。企業高管們承諾將在不久後推出自動駕駛汽車，設計出高超精湛的腫瘤檢測算法，實現工廠的端到端自動化。至於被先進技術取代了工作的人（出租車司機、長途卡車司機、裝配線工人甚至放射科醫生）的命運，商業領域的態度似乎介於半心半意的「再培訓」和幾乎不加掩飾的漠不關心之間。

　　無論首席執行官和自詡為未來學家的人的言論如何徹底脫離公眾，技術的日益普及都會進一步加劇人們對人工智能的恐懼。在這個時代，里程碑接二連三地出現，最可怕的情景正在逼近。在人工智能領域的歷史上，第一次出現了流血事件。

　　＊

　　在亞利桑那州坦佩市，優步先進技術集團正在測試一輛自動駕駛原型汽車。伊萊恩·赫茨伯格（Elaine Herzberg）推著自行車過馬路時，被這輛車撞倒身亡。兩年多前，優步策劃了卡內基梅隆大學機器人系團隊離職記，而現在，優步的自動駕駛項目成了公眾嘲諷的對象。如果說人工智能如今頻頻遭遇偏見讓我和同事們感到難過，那麼我們現在的感受則無法用語言來形容。優步的品牌已經聲名狼藉，其原因與技術本身關係不大。儘管我們很容易將事故歸咎于優步，但很明顯，這絕對不會是最後一個類似的事故。

　　的確，更多教訓很快就出現了。2016年，ProPublica^①的一系列調查顯示，有偏見的人工智能被廣泛應用於處理貸款申請，甚至協助法官做出假釋決定等方面。類似的報道還顯示，在某些招聘中，求職者會先經過人工智能技術的篩選，然後才有真人面試官進行面試。此類做法往往會在無意中造成歧視性影響，這一點並不令人意外。伊萊恩·赫茨伯格的死亡理所當然地導致優步自動駕駛團隊解散，並對整個領域造成了負面影響，但上述更微妙、更機構化的傷害卻不可能迅速得到糾正。相關問題幾乎是無聲無息的，影響範圍更廣，而監管則少之又少。期待出現同樣程度的公憤是不現實的。但好在公眾意識在不斷提高，媒體也認識到，當涉及人工智能的報道時，不應忽視偏見、公平和隱私等問題。

　　﹛①：ProPublica是一家總部設在美國紐約的非營利性媒體，其新聞報道以調查為主，主要涉及政府、商業、刑事司法和環境等主題。﹜

　　＊

　　無法問責算法、特定人群受到不公平待遇、一個人意外死亡，這些都是人工智能領域出現的新局面。審視局面，我得出結論：簡單的標簽已經不再適用。甚至連「失控」等措辭都顯得委婉。人工智能不是現象，不是顛覆，不是難題，也不是特權。我們面對的是一種自然力量。它是如此宏偉，如此強大，如此反復無常，既能輕易激發靈感，也很容易摧毀一切。要讓人工智能值得信任，需要的遠不止商業公司空洞的陳詞濫調。

　　人工智能甚至不是科技界對公共利益的唯一威脅，這使得情況變得更加複雜。在人工智能領域出現問題的時候，劍橋分析公司也爆出醜聞。在2016年美國總統大選期間，公眾普遍對虛假信息表示擔憂。關於社交媒體和新聞源過濾氣泡的不良影響的報道也在不斷增加。種種事件都有一個共同之處：世界正在逐漸意識到，數據不僅有價值，而且具有影響力，甚至可以產生前所未有的決定性影響。

　　到2018年，已經沒有人再質疑其中的利害關係了。對臉書和Instagram等社交媒體應用的審查不斷加強，因為它們提供的超個性化內容可能會導致青少年出現抑鬱和焦慮。社交媒體利用人工智能打磨定制化內容，以實現最大程度的「用戶參與」，這種趨勢令人不安。亞馬遜使用一系列監控工具（包括監控腕帶）實時追蹤工人的工作效率，這種倉庫管理方式受到媒體抨擊。微軟在試圖推廣其人工智能面部識別技術時，遭到了隱私權倡導者和公民自由組織的批評。我自己也被捲入爭議的中心。當時穀歌雲與美國國防部簽訂的一份合同（內部稱為Maven項目）引發了廣泛的爭論。幾個月後，緊張局勢從公司內部蔓延到媒體，重新點燃了大眾關於技術在軍事事務中所扮演角色的長期爭議。科技抵制浪潮已經來臨，人工智能難以獨善其身。

　　※

　　「我們就在這兒等著。」我說。

　　時間是早上5:30。我看著護士把母親推進手術室。她又要做心臟手術了，這是迄今為止創傷最大的一次。中國家庭向來不善於用語言表達對彼此的感情，我在心裡默默地說出了剩下的祝福。

　　我愛你，媽媽。

　　我不知道該做些什麼。幾分鐘後，我無精打采地站起身，在大廳裡踱來踱去，找到了一張遠離喧囂的安靜長椅，頹然坐下。長椅的金屬表面比我想像的還要冰冷，我不禁打了個寒戰。只有我一個人，滿腦子都是我還沒準備好面對的種種思緒，左手邊空空如也——在其他日子裡，母親總會坐在我的左邊。她也許會發脾氣，會評頭論足，但她總是在那裡，總是在我身邊。

　　片刻之後，我意識到周圍並非空無一人。父親找到了我。他看起來欲言又止，似乎不知道如何開口。

　　「飛飛……」他的語氣異常嚴肅，甚至有一種成年人的口吻。但我感覺到的不是力量或威望，而是脆弱。

　　「我小時候，人人都喜歡我父親，」他停頓了一會兒，繼續說道，「尤其是我。我跟你說過他的事嗎？我們家並不富裕，但過得還算舒適，尤其是在我們這樣的小城鎮。我的成長過程很幸運，我覺得自己……很特別。」

學達書庫(xuoda.com)