China implementó una regulación integral que restringe la creación de 'deepfakes' a partir del 10 de este mes.
Esta medida se considera parte de las acciones para prevenir la opinión pública disidente relacionada con las recientes protestas de papel en blanco, y resulta interesante por ser una medida de prohibición real en contraste con la Unión Europea o Estados Unidos, donde las regulaciones se limitan a recomendaciones con base en la violación de la libertad de prensa. Por supuesto, esta medida de China parece posible gracias al sistema de censura de Internet conocido como el Gran Cortafuegos (万里防火墙, Manli Fang Huawang), que ha estado funcionando durante más de 20 años, pero la enorme responsabilidad de cumplir con la transparencia y la divulgación de información probablemente genere dudas sobre su eficacia interna y externa, y es probable que estas dudas se planteen continuamente.
Desde sus inicios, la tecnología relacionada con los deepfakes ha planteado la necesidad de etiquetar el contenido sintético, pero la limitación de la falta de claridad sobre cómo garantizarlo ha sido evidente. Además, como lo indica la frase 'Internet es eterno', una vez que el contenido creado se difunde, es extremadamente difícil eliminarlo por completo. Más aún, el ejemplo del contenido 'Las voces de abril' que criticó las políticas de bloqueo de Shanghái, que influyó en las protestas de papel en blanco, demuestra que incluso después de eliminar el contenido, la conciencia colectiva de los espectadores no desaparece.
Históricamente, la integración de la tecnología en la sociedad es inevitable. Las estadísticas que indican que el 95% de los videos deepfake a nivel mundial son pornográficos, el video falso de la rendición del presidente de Ucrania al inicio de la invasión rusa y la aparición de Bruce Willis, que padece afasia, en un anuncio publicitario, son ejemplos claros de la peligrosa realidad de la tecnología deepfake que afecta a toda la sociedad. Sin embargo, lo que realmente deberíamos estar vigilando puede que no sea la forma en que se regula dicha tecnología. De hecho, siempre han existido nuevas formas de manipular la verdad, y centrarse constantemente en las últimas tecnologías siempre resulta en un juego que se pierde. Más bien, deberíamos centrarnos en por qué se crea dicho material y cómo se difunde, es decir, en los factores sociales que sustentan la propagación de narrativas falsas.
“La tecnología deepfake es moralmente cuestionable, pero no intrínsecamente incorrecta.”
La ética y filósofa política Adrienne de Ruiter, a través de su investigación, ha planteado que la 'expresión de una persona sin su consentimiento', 'el acto de engañar deliberadamente al espectador' y 'la intención dañina' son lo que hace que los resultados de esta tecnología sean inmorales. Es decir, ha expuesto que la intención de la persona, tanto del creador como del espectador, desvinculada de la tecnología en sí, es lo que se debe vigilar. En particular, el contenido deepfake dirigido a un público específico (microtargeting) que se centra en personas con una influencia social relativamente alta, como celebridades o políticos, puede conllevar dificultades para regular la manifestación de las intenciones de los creadores.
¿Cómo debemos entonces plantear las alternativas para el futuro? Se pueden sugerir dos direcciones principales.
En primer lugar, debemos reconocer y aceptar que somos seres dentro del mundo de las cámaras y los sistemas de reconocimiento. Tanto el autor de este texto como el lector pasan la mayor parte de su día a día frente a teléfonos móviles y portátiles con cámaras integradas.Desde el punto de vista del sistema, el comportamiento humano es una materia prima para los algoritmos.
Las cámaras que verifican si un niño está bien cuidado existen para lograr una relación ideal entre padres y cuidadores, pero también son sujetos no humanos que aprenden y realizan la intención de restringir a los humanos. La conciencia de que convivimos con estos nuevos sujetos puede ayudar a gestionar y responder a las intenciones inmorales asociadas con los deepfakes.
En segundo lugar, se debe generar y difundir la educación relacionada con esta temática en comunidades. Tenemos una tendencia a buscar un sentido de pertenencia dentro de las conexiones débiles dentro del sistema digital. Esto se relaciona con la ausencia de un sentimiento de pertenencia a las comunidades sociales, que se ha intensificado durante la pandemia, y con el deseo de creer que estamos conectados con alguien invisible, debido a gustos o intereses en común. La comprobación repetida de TikTok hasta las 2 de la madrugada, el acceso frecuente a la poco fiable Wikipedia, la comprobación constante de historias en Instagram o el abandono de chats de grupo en los que hay poco interés son algunos ejemplos.
Los deepfakes tienden a estimular el sentimiento de pertenencia a partir de estas conexiones débiles, pero dado que no existe un gran interés en los sujetos en cuestión, es relativamente fácil contrarrestar la influencia de dicho contenido. Si bien para un individuo puede ser difícil determinar la veracidad del contenido deepfake que busca desprestigiar a un político, el resultado de un proyecto en el que un partido político pudo distinguir entre lo falso y lo verdadero demuestra que los programas educativos basados en la perspectiva, los valores y las prácticas de la comunidad pueden ser una alternativa efectiva. Esto también implica que las empresas de plataformas donde se comparte contenido deepfake pueden crear oportunidades estratégicas estableciendo y sugiriendo soluciones comunitarias específicas para los usuarios.
Si bien existen ejemplos positivos del uso de la tecnología deepfake, como la película 'Fast & Furious', en la que se recreó a Paul Walker, fallecido en un accidente, utilizando la actuación de su hermano como base y solo se superpuso su rostro con deepfake, también se dan casos en la realidad en los que la vida de una periodista se arruina debido a un falso video sexual que la tiene como objetivo.
Es necesario recordar que los actores de la industria cinematográfica son, en la actualidad, los que más protección reciben de la tecnología deepfake. La sociedad actual todavía no puede responder a la pregunta de qué tipo de respuesta se podría dar si el objetivo fuera una persona común. Antes de esperar regulaciones legales, creo que el primer paso necesario es la concienciación de nosotros mismos, quienes vemos contenido relacionado con deepfakes a modo de entretenimiento en redes sociales como TikTok.
*Este artículo es la versión original del contenido publicado el 14 de febrero de 2023 en columna firmada en el periódico electrónico.
Referencias
Comentarios0