Beberapa bulan setelah peluncuran ChatGPT, sebuah drama besar terjadi di dewan direksi OpenAI, sebuah organisasi nirlaba yang telah berkembang dari nol menjadi pendapatan tahunan $1 miliar. CEO perusahaan, Sam Altman, dipecat, dan setelah pengumuman perpindahannya ke Microsoft, ia diangkat kembali sebagai CEO OpenAI. Biasanya, CEO pendiri adalah kekuatan terkuat di sebuah perusahaan, jadi dewan direksi jarang memecat mereka, apalagi di perusahaan besar dengan nilai $80 miliar.

Namun, drama menegangkan selama lima hari ini terjadi karena OpenAI didasarkan pada struktur unik yang terikat pada pernyataan misi "untuk kemanusiaan". Tiga anggota dewan direksi independen yang dikabarkan memimpin keputusan pemecatan Altman semuanya terkait dengan altruisme efektif (EA), yang selaras dengan misi perusahaan untuk "mencegah kepunahan manusia dan semua kehidupan yang dapat diamati di alam semesta".

Selama setahun terakhir, Altman telah berkeliling dunia memperingatkan media dan pemerintah tentang bahaya eksistensial dari teknologi yang sedang ia kembangkan. Ia telah menggambarkan struktur unik nirlaba di dalam OpenAI sebagai lonceng peringatan terhadap pengembangan AI yang tidak bertanggung jawab, dan telah menyatakan dalam wawancara dengan Bloomberg pada bulan Juni bahwa dewan direksi dapat memecatnya jika ia bertindak secara berbahaya atau bertentangan dengan kepentingan manusia. Dengan kata lain, struktur ini dirancang dengan sengaja agar dewan direksi, yang memprioritaskan keamanan di atas uang daripada munculnya AGI yang tidak terkendali, dapat memecat CEO kapan pun.

Lalu bagaimana kita harus memandang situasi saat ini, di mana CEO OpenAI yang baru sama dengan yang sebelumnya?

Sulit untuk menyimpulkan bahwa ini hanyalah sebuah kejadian yang tidak membawa perubahan karena kita telah mengetahui bahwa keputusan terkait pengembangan kecerdasan buatan etis yang dapat memengaruhi masyarakat kita secara besar-besaran diambil oleh sedikit orang saja. Sam Altman sekarang menjadi simbol era di mana perhatian dunia tertuju pada pengembangan dan regulasi AI. Dan kita telah menyaksikan proses di mana satu-satunya cara eksternal yang bisa menghentikan keputusan dan tindakannya di masa depan pada dasarnya telah dibatalkan, dan kita telah mengetahui pentingnya cara eksternal tambahan.

Peristiwa ini juga telah membuat posisi dan interpretasi dari berbagai pihak lebih jelas: para doomster yang khawatir AI akan menghancurkan umat manusia, para transhumanis yang percaya bahwa teknologi akan mempercepat masa depan yang utopis, mereka yang percaya pada kapitalisme pasar yang bebas, dan mereka yang mendukung regulasi ketat untuk membatasi perusahaan teknologi besar yang percaya bahwa tidak mungkin untuk menyeimbangkan potensi bahaya dari teknologi yang mengganggu dengan keinginan untuk menghasilkan uang. Dan ini menunjukkan bahwa semuanya dimulai dari ketakutan akan masa depan manusia bersama AI, yang pada gilirannya menekankan perlunya lebih banyak komunitas untuk memprediksi masa depan ini.

Profesor Choi Ye-jin dari Universitas Washington, yang termasuk dalam 100 orang paling berpengaruh di bidang AI di dunia, menjelaskan dalam ceramah TED-nya bahwa alasan AI yang lulus ujian nasional berbagai negara menambahkan langkah-langkah yang tidak perlu dan tidak masuk akal, seperti mengukur 6 liter air menggunakan teko 12 liter dan 6 liter, adalah karena kekurangan dalam pembelajaranpengetahuan umum yang diperoleh manusia di masyarakat."

Ketika memprediksi masa depan, kita sering mengidentifikasi hal-hal baru dari perspektif luar berdasarkan "batas" yang menunjukkan ke mana arus utama sedang menuju. Pada saat itu, hal yang terlihat sebagai visi masa depan yang stabil dari luar selalu merupakan"pengalaman hidup" yang diabstraksikan dari harapan saat ini.Arjun Appadurai, seorang antropolog Amerika, berpendapat bahwa imajinasi bukanlah kemampuan pribadi dan individual, melainkan praktik sosial. Ini berarti bahwa berbagai imajinasi tentang masa depan dapat menjadi kenyataan, dan peristiwa ini dapat diartikan sebagai salah satu pemandangan yang diciptakan oleh imajinasi tentang masa depan yang tidak pasti terkait munculnya AGI.

Mengingat harapan para pemimpin industri terhadap masa depan memiliki makna politik yang penting, di masa depan, kita akan membutuhkan pemahaman yang lebih dalam tentang masa depan yang dibayangkan dan dibentuk secara kolektif dalam berbagai konteks sosial dan budaya untuk menentukan masa depan AI. Sekaranglah saatnya untuk mempertanyakan bagaimana kita dapat menciptakan peluang untuk secara aktif mempresentasikan harapan kolektif berdasarkan pengalaman hidup dalam berbagai komunitas.

Referensi

Kedatangan Kedua Sam Altman Menimbulkan Ketakutan Baru tentang Kiamat AI

Sejarah Pemecatan Altman di OpenAI, Terukir di 'X'

OpenAI dan Ancaman Terbesar dalam Sejarah Kemanusiaan

Bagaimana ChatGPT Memecah OpenAI

Mengapa AI Sangat Cerdas dan Sangat Bodoh

Rasakan: Etnografi Futuring Sehari-hari