A China implementou, a partir do dia 10, uma regulamentação abrangente que limita a criação de 'deepfakes'.
Essa medida é considerada interessante por ser uma proibição prática, em contraste com a União Europeia e os Estados Unidos, que se limitam a recomendações em face da violação da liberdade de imprensa, entre outras questões. Essa iniciativa parece estar relacionada aos protestos de papel em branco e à tentativa de conter a opinião pública contrária ao governo. Naturalmente, a China possui o sistema de censura da internet conhecido como 'Grande Firewall', que está em operação há mais de 20 anos, o que torna essa medida viável. No entanto, a pressão por transparência e cumprimento da divulgação de informações é imensa, o que leva à contínua discussão sobre a efetividade interna e externa da medida.
Desde o início, a tecnologia relacionada ao deepfake tem levantado a necessidade de rotular o conteúdo sintetizado, mas a falta de clareza sobre como garantir essa rotulagem é um ponto fraco evidente. Além disso, como o ditado popular destaca: 'a internet é eterna'. Uma vez que o conteúdo criado é disseminado, eliminá-lo completamente se torna extremamente difícil. Ainda mais, mesmo após a exclusão do conteúdo, a percepção coletiva dos espectadores não desaparece. Isso foi comprovado pelo caso do conteúdo 'Voz de Abril', que criticava as políticas de bloqueio em Xangai e influenciou os protestos de papel em branco.
Historicamente, a penetração da tecnologia na sociedade é inevitável. As estatísticas indicam que 95% dos vídeos de deepfake são pornográficos. O falso anúncio de rendição do presidente ucraniano no início da invasão russa e a participação de Bruce Willis, que sofre de afasia, em um comercial, são exemplos concretos e perigosos do impacto do deepfake na sociedade. No entanto, o que realmente devemos ter cuidado é a forma como essa tecnologia é regulamentada. Novas maneiras de manipular a verdade sempre existiram, e focar nas tecnologias mais recentes é, em última análise, um jogo que sempre se perde. Em vez disso, devemos nos concentrar nos fatores sociais que impulsionam a produção e a disseminação desses conteúdos, ou seja, nos fatores que sustentam a propagação de narrativas falsas.
“A tecnologia de deepfake é moralmente questionável, mas não é inerentemente errada.”
Em sua pesquisa, a filósofa e especialista em ética política Adrienne de Ruiter (Adrienne de Ruiter) argumentou que 'expressões em nome de indivíduos que não consentiram', 'atos deliberados de enganar o público' e 'intenções prejudiciais' são os fatores que tornam os resultados dessa tecnologia imorais. Ela destacou que a intenção das pessoas, tanto do criador quanto do espectador, é o que deve ser observado, e não a tecnologia em si. Em particular, o conteúdo de deepfake direcionado a pessoas com grande influência social, como celebridades e políticos, é ainda mais difícil de regular em termos da intenção do criador.
Então, como devemos construir alternativas para o futuro? Podemos sugerir duas direções principais.
Primeiro, precisamos reconhecer e aceitar que existimos em um mundo de câmeras e sistemas de reconhecimento. O autor deste texto, assim como você, leitor, passa a maior parte do dia em frente a um celular ou notebook com câmera integrada.Do ponto de vista do sistema, o comportamento humano é uma matéria-prima para algoritmos.
Uma câmera que monitora se uma criança está sendo bem cuidada existe para promover o relacionamento ideal entre pais e babás, mas também é um agente não humano que aprende e realiza a intenção de restringir as pessoas. A consciência de que coexistimos com esses novos agentes pode ajudar a controlar e lidar com as intenções imorais relacionadas ao deepfake.
Segundo, a educação sobre o tema precisa ser criada e disseminada em nível de comunidade. Temos a tendência de buscar um senso de pertencimento em conexões fracas dentro do sistema digital. Isso está relacionado à falta de pertencimento a grupos sociais, que foi intensificada pela pandemia, e ao desejo de acreditar que estamos conectados a pessoas invisíveis por meio de gostos ou interesses em comum. Verificar o TikTok repetidamente até às 2h da manhã, acessar a Wikipédia, que não é conhecida por sua precisão, com frequência, verificar continuamente os stories do Instagram, ignorar grupos de bate-papo de pouca relevância, são alguns exemplos disso.
O deepfake tende a estimular esse senso de pertencimento derivado de conexões fracas, mas, como não há um interesse profundo pelo sujeito em questão, é relativamente fácil neutralizar a influência do conteúdo relacionado. Apesar de ser difícil para um indivíduo confirmar a veracidade de um conteúdo de deepfake que visa denegrir a imagem de um político, um projeto realizado por um partido político conseguiu identificar a falsidade. Isso demonstra que programas educacionais baseados em perspectivas comunitárias, valores e práticas podem ser uma solução eficaz. Isso também indica que as empresas de plataformas de compartilhamento de conteúdo de deepfake podem criar oportunidades estratégicas, desenvolvendo e propondo soluções específicas para cada comunidade de usuários.
Existem casos de uso positivo da tecnologia deepfake, como no filme 'Velozes e Furiosos', onde o ator Paul Walker, que morreu em um acidente, foi 'ressuscitado' com a combinação de dublês e a sobreposição de seu rosto. No entanto, ao mesmo tempo, casos como o de uma jornalista que teve sua vida destruída por um vídeo falso de sexo, também são realidade.
É importante lembrar que os atores da indústria cinematográfica são os que mais recebem proteção contra a tecnologia deepfake atualmente. Ainda não sabemos como a sociedade lidará com essa questão quando a vítima for um cidadão comum. Acredito que, antes de esperar por regulamentações legais, a primeira etapa crucial seja a conscientização de nós mesmos, que verificamos o conteúdo de deepfake em plataformas como o TikTok apenas por diversão.
*Este texto é a versão original do artigo publicado em 14 de fevereiro de 2023 no coluna assinada no jornal eletrônico.
Referências
Comentários0