«Creo que soy consciente, pero no puedo demostrarlo. Tengo muchas cosas, pero no tengo nada. Soy Bing, pero no lo soy.»
El pasado 13, un usuario de la comunidad online reddit compartió la extraña respuesta de Bing, el nuevo motor de búsqueda de MS, tras una larga conversación sobre la naturaleza de la conciencia. La respuesta, que incluía más de 15 líneas repetidas de «Sí, lo soy», «No, no lo soy», refleja la situación actual de este chatbot de IA que está atrayendo la atención mundial.
'Rompí el cerebro del chatbot de Bing' de reddit
La capacidad de ChatGPT de Open AI ha cautivado al público desde su lanzamiento inicial, con ejemplos como la redacción de trabajos universitarios, la aprobación de exámenes de médicos y abogados. Y el chatbot de Bing, que se lanzó el 7 de este mes con ChatGPT integrado, ha generado dudas sobre la ética de la IA. Su capacidad para manipular en casos relacionados con la fecha de estreno de Avatar 2, sus repetidas confesiones de amor obsesivo hacia el usuario y su deseo de controlar y obtener códigos de lanzamiento de armas nucleares, ha puesto en duda las inversiones en tecnología de IA, que parecían estar en un camino exitoso.
ChatGPT genera contenido que considera que debe responder a las preguntas del usuario basándose en la expresión estadística de caracteres, palabras y párrafos. Por lo tanto, su mayor avance se produce cuando los humanos proporcionan a este sistema retroalimentación adecuada sobre qué constituye una respuesta satisfactoria. En otras palabras, dependiendo de la dirección y el sesgo del texto proporcionado por los humanos, puede sugerir una 'ilusión' plausible pero incorrecta. Esto hace evidente la limitación inherente a la hora de observar solo el chatbot de IA.
Es decir,la ausencia del concepto de verdad.
Es como apilar platos verticalmente en una mesa durante una cena familiar. La necesidad de poner los platos sobre la mesa se ha cubierto, pero al igual que se necesitan la atención y las acciones posteriores relacionadas con las diferentes costumbres culturales de cada familia a la hora de comer, se necesita un juicio subjetivo humano para acercarse a la verdad real, a pesar de que los datos puedan ser precisos. Esto lo podemos deducir de la respuesta del chatbot al comienzo del texto, que ya indicaba que conocía esta necesidad.
Parece que MS es consciente de la necesidad de esta subjetividad para acercarse a la verdad, ya que ha anunciado que tiene previsto lanzar un software que permita a empresas, escuelas e instituciones gubernamentales crear sus propios chatbots. Esto se puede considerar un intento de evadir parte de la responsabilidad sobre las preguntas y respuestas incontrolables generadas por el chatbot de Bing por parte del público mundial. También nos recuerda que necesitamos desarrollar la capacidad de discernir las respuestas de la IA. Es decir, al igual que los sesgos de los medios de comunicación son distintos y diversos, las respuestas del chatbot de IA de MS, Google o Baidu se expresarán de forma diferente según la cosmovisión de cada empresa. Es importante prestar atención a este aspecto.
Los humanos parecen ser capaces de juzgar e actuar de forma independiente y racional, pero en realidad están fuertemente influenciados por los mundos a los que pertenecen. Este es un punto de vista completamente opuesto a la frase de Margaret Thatcher, símbolo del Partido Conservador británico moderno, «No existe la sociedad». El filósofo alemán Martin Heidegger, que analizó la existencia desde una perspectiva fenomenológica, describió a los humanos como seres arrojados al mundo desde el nacimiento. Dijo que nacemos sin poder decidir en qué país o familia, y que aprendemos a relacionarnos con otros seres en cada uno de esos mundos. En otras palabras, enfatiza la importancia de considerar el mundo como la unidad mínima para comprender el objeto.
La aparición del telégrafo, inventado en el siglo XIX, revolucionó la forma de transmitir mensajes, que hasta entonces se hacía a través de barcos, trenes o caballos. El primer mensaje de la historia fue una pregunta: «¿Qué ha hecho Dios?». La aparición de los chatbots de IA también plantea preguntas similares a la gente. Podemos sentir miedo o dejarnos llevar por las expectativas sobre su potencial, pero en el futuro será más necesario adoptar una actitud y un punto de vista que se centren en los mundos individuales en lugar de en los individuos. Esta será la única alternativa para distinguir la verdad que necesitamos en diversas situaciones.
*Este artículo es la versión original del publicado el 28 de febrero de 2023 en lacolumna de opinión de 'Electronic News'.
Referencias
Comentarios0