Hace poco, unos meses después del lanzamiento de ChatGPT, se produjo un drama extraordinario dentro del consejo de administración de OpenAI, una organización sin ánimo de lucro que pasó de la quiebra a generar 1.000 millones de dólares en ingresos anuales. Sam Altman, el director ejecutivo de la empresa, fue despedido y, tras anunciar su traslado a Microsoft, fue readmitido como director ejecutivo de OpenAI. Por lo general, los directores ejecutivos fundadores son el poder más fuerte de una empresa, por lo que es muy poco común que el consejo de administración despida a un director ejecutivo fundador, y menos aún cuando se trata de una empresa gigante con un valor de 80.000 millones de dólares.

Sin embargo, este intenso drama de cinco días fue posible gracias a la estructura única de OpenAI, que está vinculada a su declaración de misión de "beneficiar a la humanidad". Con el objetivo de "evitar que la humanidad y todo el universo observable desaparezcan", se sabe que los tres miembros independientes del consejo de administración que impulsaron la decisión de despedir a Altman están todos relacionados con el altruismo eficaz (EA), un movimiento que busca maximizar el impacto positivo en el mundo.

Altman ha pasado este año viajando por todo el mundo, advirtiendo a los medios de comunicación y a los gobiernos sobre los riesgos existenciales de la tecnología que está desarrollando. Ha descrito la estructura inusual de OpenAI, una organización sin ánimo de lucro dentro de una organización con ánimo de lucro, como una forma de alertar sobre los peligros de desarrollar una IA irresponsable. En una entrevista con Bloomberg en junio, dijo que el consejo de administración podría echarlo si actuara de forma peligrosa o en contra del interés de la humanidad. En otras palabras, la estructura fue diseñada intencionadamente para que el consejo de administración, que prioriza la seguridad por encima del dinero, en relación con la aparición de una IA incontrolable, pudiera despedir al director ejecutivo en cualquier momento.

Entonces, ¿cómo debemos interpretar la situación actual, en la que el nuevo director ejecutivo de OpenAI es el mismo que el anterior?

No es fácil concluir que todo ha terminado en un simple "incidente" sin cambios. Lo que sí se ha confirmado es que las decisiones relacionadas con el desarrollo de una IA ética, que puede tener el mayor impacto en nuestra sociedad actual, se toman con el apoyo de un grupo extremadamente pequeño. Sam Altman se ha convertido en un símbolo de la época en la que la atención mundial se centra en el desarrollo y la regulación de la IA. Hemos sido testigos de cómo el único medio externo que podría haber impedido sus decisiones futuras ha sido, en realidad, desmantelado, y hemos confirmado la importancia de medios externos adicionales.

Este incidente también ha puesto de manifiesto con mayor claridad las posiciones e interpretaciones de los catastrofistas que temen que la IA destruya a la humanidad, los transhumanistas que creen que la tecnología acelerará un futuro utópico, quienes creen en el libre mercado capitalista, y los que abogan por una regulación estricta para frenar a las grandes empresas tecnológicas, que creen que no se puede equilibrar el potencial de daño de las poderosas tecnologías disruptivas con su lucro. Esto nos recuerda que todos ellos parten de un miedo al futuro de la humanidad junto con la IA, y que esto hace que sea necesario que haya una mayor variedad de comunidades que puedan predecir este futuro.

Yejin Choi, profesora de la Universidad de Washington e incluida entre las 100 personas más influyentes del mundo en el campo de la IA, explicó en su charla de TED que la razón por la que una IA capaz de aprobar diversos exámenes nacionales añade pasos innecesariamente complicados al medir la cantidad de agua de 6 litros utilizando jarras de 12 litros y 6 litros es la falta de aprendizaje de la “sabiduría común” adquirida en la sociedad.

Cuando predecimos el futuro, a menudo identificamos lo nuevo desde una perspectiva externa, basándonos en un "límite" que indica hacia dónde se dirige la corriente principal. En este caso, lo que parece ser una visión estable del futuro desde fuera siempre se basa, en cierta medida, en el presente, en una “experiencia vívida” que se abstrae en una expectativa. El antropólogo estadounidense Arjun Appadurai argumentó que la imaginación no es una capacidad privada y personal, sino una práctica social. Esto significa que la imaginación de diversos futuros puede hacerse realidad, y este incidente se puede interpretar como uno de los paisajes creados por la imaginación de un futuro incierto en relación con la aparición de la AGI.

Ahora que hemos confirmado que las expectativas de los líderes del sector sobre el futuro tienen un significado político importante, necesitaremos una comprensión más profunda del futuro que se imagina y se construye colectivamente en diversos contextos sociales y culturales para decidir el futuro de la IA. Es el momento de plantearse cómo podemos crear oportunidades para presentar expectativas colectivas basadas en experiencias vívidas en comunidades más diversas.

Referencias

Sam Altman’s Second Coming Sparks New Fears of the AI Apocalypse

오픈 AI의 알트먼 해고 역사, 'X'에 고스란히 박제

OpenAI and the Biggest Threat in the History of Humanity

How ChatGPT Fractured OpenAI

Why AI is incredibly smart and shockingly stupid

Come to Your Senses: Ethnography of the Everyday Futuring