Beberapa waktu lalu, beberapa bulan setelah peluncuran ChatGPT, terjadi drama besar di dewan direksi OpenAI, sebuah perusahaan nirlaba yang tumbuh dari nol menjadi pendapatan tahunan $1 miliar. CEO perusahaan, Sam Altman, dipecat, dan kemudian kembali menjadi CEO OpenAI setelah pengumuman kepindahannya ke Microsoft. Biasanya, CEO pendiri adalah kekuatan terkuat dalam sebuah perusahaan, sehingga sangat jarang dewan direksi memecat CEO pendiri, apalagi untuk perusahaan besar senilai $80 miliar.
Namun, drama menegangkan selama 5 hari ini dapat terjadi karena OpenAI didasarkan pada struktur unik yang terikat pada pernyataan misi 'untuk kemanusiaan'. Tiga anggota dewan direksi independen yang dikabarkan memimpin keputusan pemecatan Altman semuanya terkait dengan efektivitas altruisme (EA, effective altruism), yang terkait dengan misi perusahaan untuk memastikan bahwa 'manusia dan seluruh alam semesta yang dapat diamati tidak punah'.
struktur dewan direksi OpenAI
Sepanjang tahun ini, Altman telah melakukan perjalanan keliling dunia, memperingatkan media dan pemerintah tentang risiko eksistensial dari teknologi yang sedang ia kembangkan. Ia menggambarkan struktur unik OpenAI yang nirlaba di dalam struktur yang menguntungkan sebagai alarm terhadap pengembangan AI yang kuat dan tidak bertanggung jawab. Dalam sebuah wawancara dengan Bloomberg pada bulan Juni, ia juga menyebutkan bahwa dewan direksi dapat memecatnya jika ia melakukan tindakan berbahaya atau yang bertentangan dengan kepentingan manusia. Dengan kata lain, struktur tersebut secara sengaja dirancang agar dewan direksi, yang memprioritaskan keamanan terkait kemunculan AGI yang tidak terkendali daripada uang, dapat memecat CEO kapan saja.
Lalu, bagaimana kita harus memandang situasi saat ini di mana CEO OpenAI yang baru adalah orang yang sama dengan CEO sebelumnya?
Alasan mengapa kita tidak dapat menganggapnya sebagai kejadian sepele yang berakhir tanpa perubahan adalah karena kita telah mengetahui bahwa keputusan terkait pengembangan AI yang etis, yang dapat berdampak paling besar pada masyarakat kita saat ini, dibuat hanya berdasarkan sedikit pendapat. Sam Altman sekarang seperti simbol dari era di mana perhatian seluruh dunia terhadap pengembangan dan regulasi AI tertuju padanya. Dan kita telah menyaksikan proses di mana satu-satunya cara eksternal yang hampir dapat menghentikan penilaian dan keputusan masa depannya pada dasarnya telah dihapuskan, dan hal itu menegaskan kembali pentingnya cara-cara eksternal tambahan di kemudian hari.
Selain itu, melalui peristiwa ini, posisi dan interpretasi dari para pesimis yang khawatir AI akan menghancurkan umat manusia, para transhumanis yang percaya bahwa teknologi akan mempercepat masa depan utopis, mereka yang percaya pada kapitalisme pasar yang bebas, dan mereka yang mendukung regulasi ketat untuk menahan perusahaan teknologi besar yang percaya bahwa keseimbangan antara potensi kerusakan teknologi yang kuat dan keinginan untuk menghasilkan uang tidak dapat dicapai, menjadi lebih jelas. Dan ini menunjukkan bahwa semuanya berawal dari rasa takut akan masa depan manusia bersama dengan AI, sehingga perlu dicatat bahwa kita perlu mengidentifikasi komunitas yang lebih beragam yang dapat memprediksi masa depan ini.
Choi Ye-jin, seorang profesor di Universitas Washington yang termasuk dalam 100 orang paling berpengaruh di bidang AI dunia, menjelaskan dalam pidato TED-nya bahwa alasan mengapa AI yang dapat lulus berbagai ujian layanan sipil menambahkan langkah-langkah yang tidak perlu dan konyol ketika mengukur 6 liter air menggunakan teko 12 liter dan 6 liter adalah karena " kurangnya pembelajaran pengetahuan umum yang diperoleh manusia dalam masyarakat."
Saat memprediksi masa depan, kita sering mengidentifikasi hal-hal baru dari perspektif orang luar, menggunakan 'batas' yang menunjukkan ke mana arus utama sedang bergerak. Pada saat itu, apa yang tampak sebagai visi masa depan yang stabil dari luar selalu merupakan ekspektasi yang diabstraksi dari 'pengalaman hidup' yang berdasarkan pada saat ini. Antropolog Amerika Arjun Appadurai berpendapat bahwa imajinasi bukanlah kemampuan pribadi dan individual, melainkan praktik sosial. Ini berarti bahwa berbagai imajinasi tentang masa depan dapat menjadi kenyataan, dan peristiwa ini dapat ditafsirkan sebagai salah satu lanskap yang diciptakan oleh imajinasi tentang masa depan yang tidak pasti terkait dengan kemunculan AGI.
Karena kita telah melihat bahwa ekspektasi para pemimpin industri untuk masa depan memiliki makna politik yang penting, di masa mendatang, kita akan membutuhkan pemahaman yang lebih dalam tentang masa depan yang dibayangkan dan dibentuk secara kolektif dalam berbagai konteks sosial dan budaya dalam menentukan masa depan AI. Saatnya untuk bertanya bagaimana kita dapat menciptakan peluang untuk secara aktif menyajikan ekspektasi kolektif yang didasarkan pada pengalaman hidup yang beragam di dalam berbagai komunitas.
Referensi
Komentar0