不久前，在 ChatGPT 發布後短短幾個月內，從一無所有成長為年營收 10 億美元的非營利組織 OpenAI 董事會內部發生了一場驚天動地的戲碼。該公司執行長山姆·阿爾特曼遭到解僱，並在隨後宣布將轉往微軟任職，最終又決定重返 OpenAI 擔任執行長。通常，創辦人兼執行長是公司中最具權力的角色，董事會解僱創辦人兼執行長的案例非常罕見，更何況是一家估值高達 800 億美元的巨型企業，幾乎是不可能發生的事情。
然而，這場持續 5 天的緊張戲碼之所以能夠發生，是因為 OpenAI 基於一個獨特的架構，該架構受限於「為了人類」的使命宣言。據悉，三位帶頭解僱阿爾特曼的獨立董事會成員都與公司的使命相關，並與有效利他主義（EA，effective altruism）有關，目標是確保「人類和可觀測宇宙中的所有事物都不會消失」。
OpenAI的董事會架構
在今年全年，阿爾特曼周遊世界，向媒體和政府警告他正在開發的技術所帶來的生存風險，並將 OpenAI 的獨特非營利性質內建營利結構描述為對不負責任地開發強大人工智慧的警示。他在 6 月份接受《彭博社》採訪時也提到，如果他採取危險的行為或做出有違人類利益的行為，董事會可以將他趕下台。換句話說，這個架構是刻意設計成讓董事會（其優先考量的是防止失控的 AGI（通用人工智慧）出現，而不是金錢）隨時可以解僱執行長。
那麼，我們應該如何看待 OpenAI 現任執行長與前任執行長相同的情況呢？
這起事件並非以毫無變化的鬧劇收場，其原因在於，我們發現了與當今社會影響力最大的倫理人工智慧開發相關的決策，僅由極少數人的意見決定。山姆·阿爾特曼如今已成為這個時代的象徵，全世界的目光都聚焦在他身上，關注著人工智慧的開發和規範。我們也見證了幾乎唯一可以阻止他未來判斷和決策的外部手段實際上被廢除的過程，並確認了未來需要更多額外的外部手段的重要性。
此外，這次事件也讓各方立場更加明確，包括：擔心人工智慧會毀滅人類的末日論者、相信技術會加速烏托邦未來到來的超人類主義者、相信自由放任的市場資本主義的人、以及支持對大型科技公司進行嚴格監管以平衡潛在破壞性技術的潛在危害與獲利慾望的人。這一切的出發點都是對與人工智慧共存的未來感到擔憂，因此，我們需要關注並確認有更多元社群的必要性，以便預測這個未來。
曾入選全球人工智慧領域百大影響力人物的華盛頓大學崔藝珍教授在她的 TED 演講中提到，能夠通過各種國家考試的人工智慧，在使用 12 公升和 6 公升的水壺測量 6 公升水的過程中，為何會笨拙地添加不必要的步驟，原因在於人類在社會中缺乏「常識的學習」。
在預測未來時，我們常常以作為外部者的角度，以代表主流發展方向的「界限」為基準來識別新事物。此時，從外部看來，穩定未來的願景總是基於當下，是「從生動的體驗中抽象出來的期望」。美國人類學家阿瓊·阿帕杜賴曾主張，想像力不是一種私人的、個人的能力，而是一種社會實踐。這意味著，對各種未來的想像力有可能成為現實，而這次事件可以被解釋為是對 AGI 出現相關的不確定未來所產生的想像力所創造的景象之一。
既然已經確認了業界領袖對未來的期待具有重要的政治意義，那麼在決定人工智慧的未來時，我們就需要更深入地理解在各種社會和文化背景下集體想像和構建的未來。我們應該思考，如何在更多元的社群中創造機會，積極提出基於生動體驗的集體期望。
參考資料
评论0