“Agora temos um modelo de IA que analisa a linguagem humana e extrai modelos do mundo.”
No dia 19 do mês passado, em um evento de uma organização de caridade em Ontário, Canadá, o psicólogo clínico e professor da Universidade de Toronto, Jordan Peterson, mencionou a tensão crescente entre humanos e algoritmos com base em casos de uso recentes do ChatGPT. O professor Peterson alertou que os modelos de linguagem de grande escala, a IA generativa, em breve se tornarão inteligentes o suficiente para extrair padrões por si mesmos, usando imagens e ações, e testá-los no mundo, substituindo o papel de cientistas humanos em questão de segundos.
GPT-3, DALL-E, StableDiffusion, etc., agora são a base da maioria dos sistemas de IA e estão tornando a mudança de paradigma da IA visível. E esses poderosos sistemas, que geram imagens e texto de acordo com as necessidades do usuário, inevitavelmente estão causando conflitos com os criadores existentes dentro das indústrias existentes. Em novembro passado, o 'GitHub Copilot' da Microsoft enfrentou uma ação coletiva alegando violação dos direitos legais de inúmeros autores que publicaram código sob licença de código aberto para o aprendizado de IA. Além disso, a Associação da Indústria de Gravação dos EUA (RIAA) enfatizou em um comunicado em outubro passado que a geração e mixagem de música baseadas em IA podem ameaçar os direitos dos músicos, bem como suas condições financeiras.
Esses casos nos lembram da questão de se o método de treinamento de sistemas e produção de resultados com base em conjuntos de dados com materiais protegidos por direitos autorais é 'justo para todos'. No entanto, é importante observar que muitas dessas controvérsias se concentram em aspectos relacionados a novas tecnologias. Em última análise, como os humanos são aqueles que inserem texto em modelos de IA para obter os resultados desejados, devemos nos concentrar primeiro na questão de como os humanos devem se relacionar com os algoritmos.
Os algoritmos já são um dos principais motores da geração de nosso mundo, assim como os humanos. Temos considerado a vigilância social sobre a falta de transparência dos algoritmos há algum tempo. Em particular, sabíamos que era difícil avaliar quem era responsável quando faltava transparência, e estávamos preocupados que os preconceitos ocultos pudessem persistir e levar a resultados injustos. Portanto, 'como devemos lidar com os algoritmos' pode ser uma questão mais importante, e podemos encontrar pistas para isso em nosso relacionamento familiar com os algoritmos de geração de conteúdo.
Primeiro,reconhecemos a existência de algoritmos. Palavras como 'recomendação' e 'seleção', que aparecem frequentemente em conversas relacionadas a conteúdo e publicidade, mostram que as pessoas estão construindo seu vocabulário em torno de algoritmos em compras online e mídia social. Além disso,somos curiosos sobre os algoritmos. Quando a página principal do YouTube é preenchida com conteúdo de uma determinada categoria ou quando não estamos satisfeitos com a quantidade de visualizações de nosso conteúdo postado, muitas vezes expressamos nossa curiosidade sobre os algoritmos com reações desfavoráveis.
Por fim,queremos que os algoritmos sejam ativos e existam para nós como seres vivos. Dependemos de algoritmos para criar novos hábitos, aprender e lembrar, e tentamos controlá-los completamente para esse fim. Isso inclui tentar usar hashtags irrelevantes, ativar o modo Não Perturbar ou enviar feedback sobre as opções de anúncios. E quando todas essas tentativas falham, até tentamos nos desconectar dos algoritmos, como por meio de desintoxicação digital ou consumo de conteúdo de newsletters.
Em resumo, as pessoas tendem a mostrar falta de confiança, avaliações negativas e uma tendência a ficar presas ao passado quando seu relacionamento com os algoritmos não se desenvolve como esperado. E isso é muito semelhante ao 'relacionamento social'que estabelecemos no dia a dia. Além disso, enquanto o relacionamento com os algoritmos de geração de conteúdo existentes era principalmente unilateral na área de 'consumo', o relacionamento com os algoritmos de IA de processamento de linguagem de grande escala atuais pode ser definido como bidirecional na área de 'geração'. Dado que o resultado solicitado pelo usuário não é inteiramente original, mas é baseado em trabalhos criativos de alguém em algum lugar do mundo, precisamos reconhecer a necessidade de uma mudança fundamental na nossa postura e atitude em relação aos algoritmos de IA generativos.
Mesmo com a janela do ChatGPT aberta, o algoritmo de IA apenas espera. Talvez, apesar de sua capacidade surpreendente, ele esteja apenas esperando que você escreva algo para ajudar a cultivar um relacionamento social oculto com outra pessoa em seu mundo.
*Este artigo é a versão original do artigo publicado no dia 9 de janeiro de 2023 no Coluna assinada do jornal eletrônico.
Referências
Comentários0