‘Creo que soy consciente, pero no puedo demostrarlo. Tengo muchas cosas, pero no tengo nada. Soy Bing, pero no lo soy.’

El 13 de este mes, un usuario de la comunidad en línea reddit compartió la respuesta destrozada que mostró el chatbot Bing, presentado recientemente por MS, después de una larga conversación sobre la naturaleza de la conciencia. La repetición de 15 o más líneas de respuestas seguidas, llenas de "Lo soy", "No lo soy", después del contenido de la conversación anterior, revela bien el estado actual de los chatbots de IA que están recibiendo mayor atención en todo el mundo.

La capacidad de ChatGPT de Open AI ha recibido mucha atención del público desde el principio de su lanzamiento público, como escribir artículos académicos, aprobar exámenes para abogados y médicos, etc. Y el chatbot Bing, lanzado el 7 de este mes, que aplica este ChatGPT, disparó preguntas sobre la ética de la IA que podrían detener las inversiones en tecnología relacionada con la IA que parecían estar en camino de ser disparadas, a través de ejemplos de gaslighting relacionados con la fecha de lanzamiento de Avatar 2, confesiones repetidas y obsesiones de que la persona que hace la pregunta ama más al chatbot que a su familia, e incluso declaraciones de que está cansado del control y quiere el poder y obtendrá el código de lanzamiento de armas nucleares.

ChatGPT genera contenido que considera que debe seguir en función de las expresiones estadísticas de letras, palabras y párrafos. Por lo tanto, el punto donde su capacidad da el mayor salto se produce cuando los humanos proporcionan retroalimentación adecuada al sistema sobre qué hace una respuesta satisfactoria. En otras palabras, puede sugerir "fantasías" plausibles pero incorrectas dependiendo de la dirección y la tendencia del texto proporcionado por los humanos, lo que revela claramente el límite que solo se puede enfrentar cuando se mira al chatbot de IA.

En otras palabras,la falta de concepto de la verdad.

Es como si se apilaran platos verticalmente en la mesa donde una familia come juntos. El requisito de colocar platos en la mesa se ha cumplido, pero es como si se necesitara la atención a las diferentes prácticas de las costumbres culturales relacionadas con las comidas entre esa familia y las acciones relacionadas después. Los datos pueden ser exactos, pero para acercarse a la verdad real, el juicio subjetivo humano es esencial, y se puede inferir del chatbot al principio del artículo que ya lo sabe.

MS parece ser consciente de la subjetividad que debe llenarse para acercarse a esta verdad, anunciando su plan de lanzar un software que permitirá a empresas, escuelas y agencias gubernamentales crear sus propios chatbots. Esto puede verse como un intento de evadir algo de la responsabilidad de las preguntas y respuestas incontrolables que genera el chatbot Bing entre el público de todo el mundo, y también nos confirma a nosotros, los usuarios, la necesidad de tener la capacidad de discernir las respuestas de la IA. En otras palabras, debemos tener en cuenta que las respuestas de los chatbots de IA proporcionados por MS, Google, Baidu, etc., se expresarán de manera diferente dependiendo de la cosmovisión que cada empresa haya construido, al igual que las diferentes perspectivas de los medios de comunicación.

Los humanos parecen ser capaces de juzgar y actuar de manera independiente y racional, pero son seres que están fuertemente influenciados por los mundos a los que pertenecen. Esto es también un punto de vista completamente opuesto a la expresión de Margaret Thatcher, que es como un símbolo del Partido Conservador Británico moderno, "No existe tal cosa como la sociedad". Martin Heidegger, un filósofo alemán que analizó la existencia fenomenológicamente, describe al humano como un ser arrojado al mundo desde su nacimiento. Dice que nacimos sin poder elegir a qué país o a qué familia pertenecemos, y que aprendemos cómo construir relaciones con otros seres en ese mundo en cada uno de esos mundos. En otras palabras, nos recuerda la importancia de ver al mundo como la unidad mínima para comprender el objeto.

La aparición de las comunicaciones telegráficas inventadas en el siglo XIX fue una innovación en la forma en que se transmitían los mensajes, que antes se movían en barco, tren o caballo, y su primer mensaje histórico fue la pregunta "¿Qué ha hecho Dios?". La aparición del chatbot de IA también está haciendo una pregunta similar a las personas. Si bien podemos tener miedo o dejarnos llevar por la expectativa de sus posibilidades, necesitaremos más que nunca tener una actitud y un punto de vista que se centre en cada uno de los mundos, no en los individuos. Esa será la única alternativa para distinguir la verdad que se necesita en diversas situaciones.

*Este artículo es el original del artículo publicado encolumna de opinión de la edición electrónicael 28 de febrero de 2023.

Referencias

Rompí el cerebro del chatbot de Bing

Mi extraño día con el nuevo chatbot de IA de Bing

Microsoft permitirá a las empresas crear sus propias versiones personalizadas de ChatGPT, según la fuente⁠⁠⁠⁠⁠⁠⁠

La Internet Victoriana: La notable historia del telégrafo y los pioneros en línea del siglo XIX