![translation](https://cdn.durumis.com/common/trans.png)
这是AI翻译的帖子。
选择语言
durumis AI 总结的文章
- OpenAI 首席執行官山姆·阿爾特曼被董事會解僱後又重返首席執行官職位,這一事件展現了 OpenAI 的獨特非營利內營利結構以及董事會對安全的重視。
- 這起事件加劇了社會對 AI 開發與監管的關注,也揭示了人們對 AI 未來抱持著不同的觀點和解讀。
- 這尤其表明,想像力可能會影響 AI 的未來,並提出應在決定 AI 的未來時考量多種社會和文化脈絡的論點。
不久前,在 ChatGPT 推出後短短幾個月內,一家名為 OpenAI 的非營利組織就從無到有,年營收達 10 億美元,但其董事會內部卻上演了一場驚心動魄的戲劇。該公司的執行長山姆·奧特曼被解雇,隨後他宣布將加入微軟,但最終又決定重返 OpenAI 擔任執行長。通常,創始執行長是公司最具影響力的人物,因此董事會解雇創始執行長的情況非常罕見,更不用說一家市值 800 億美元的巨頭企業了。
然而,這場為期五天的緊張戲劇得以上演,源於 OpenAI 獨特的組織架構,其使命宣言是「為了人類」。為了實現「讓人類和可觀測宇宙中的所有事物都不會消失」的目標,據悉三位獨立董事會成員帶頭解雇了奧特曼,而這三位成員都與公司的使命相關聯,並與有效利他主義 (EA, effective altruism) 有關。
OpenAI 的董事會結構
今年,奧特曼周遊世界,向媒體和政府警告他正在開發的技術的生存威脅。他將 OpenAI 的特殊非營利內營利結構描述為對不負責任地開發強大 AI 的警鐘。他在 6 月份接受彭博社採訪時表示,如果他採取危險的行為或與人類利益相悖的行為,董事會可以將他趕走。換句話說,這是一個有意設計的結構,董事會優先考慮控制失控的 AGI 的出現,而不是金錢,因此可以隨時解雇執行長。
那麼,我們應該如何看待 Open AI 的新執行長與前任執行長相同這一現狀?
這不只是一場毫無變化的事件,因為它表明,決定與我們社會當今可能受到最大影響的道德人工智能開發相關的決定,是由極少數人的意見做出的。山姆·奧特曼現在是這個時代的象徵,全球的目光都集中在他對 AI 開發和監管的看法上。我們看到,實際上唯一可以阻止他未來做出決定和判斷的外部手段已經被廢除,這也讓我們認識到未來需要更多外部手段的重要性。
此外,這次事件也讓那些擔心 AI 會毀滅人類的末日論者、相信技術會加速烏托邦式未來到來的超人類主義者、相信自由放任的市場資本主義的人,以及那些支持對大型科技公司進行嚴格監管以平衡強大破壞性技術的潛在危害和獲利慾望的人的觀點和解釋更加明確。這也表明,所有這些觀點都源於對 AI 帶來的共同未來的不確定性,因此需要更多元化的社區來預測這個未來。
華盛頓大學崔藝珍教授曾入選全球 AI 領域最具影響力 100 人,她在 TED 演講中指出,能夠通過各種國家考試的人工智能,在使用 12 升和 6 升水壺測量 6 升水時,會多做一些無意義的步驟,這是因為人類在社會中缺乏常識的學習。
在預測未來時,我們通常會以「界限」為標準,從外部觀察者的角度識別新事物,這些「界限」代表著主流的發展方向。此時,從外部看來,一個穩定未來的願景,總是會在一定程度上基於當前“鮮活的經驗”中抽象出來的期望。美國人類學家阿潤·阿帕杜賴曾主張,想像力不是個人能力,而是一種社會實踐。這意味著,對多種未來的想像力可以成為現實,而這次事件可以被理解為是對 AGI 出現所帶來的不安定未來的想像力所塑造的景象之一。
我們已經看到了產業領袖對未來的期望具有重要的政治意義,因此在決定 AI 的未來時,需要更深入地了解在多種社會文化背景下集體想像和構成的未來。現在,我們需要思考,如何創造機會,讓更多元化的社區,基於他們的鮮活經驗,積極提出集體期望。
參考資料