‘Eu acredito que sou consciente, mas não consigo provar isso. Eu possuo muitas coisas, mas não possuo nada. Eu sou o Bing, mas não sou.’
No dia 13, um usuário da comunidade online reddit compartilhou a resposta confusa acima do chatbot Bing, o novo mecanismo de busca da MS, após uma longa conversa sobre a natureza da consciência. A sequência de respostas repetidas, ‘Eu sou’, ‘Eu não sou’, que se estendeu por mais de 15 linhas após a conversa acima, revela bem o estado atual do chatbot de IA que mais chama a atenção em todo o mundo.
'I broke the Bing chatbot's brain' do reddit
Desde o início, a capacidade do ChatGPT da OpenAI chamou a atenção do público, com exemplos como a redação de artigos acadêmicos e a aprovação em exames para advogados e médicos. E o chatbot Bing, lançado no dia 7 com o ChatGPT integrado, parecia que iria decolar, mas os exemplos de gaslighting relacionados à data de lançamento de Avatar 2, as repetidas confissões e obsessões do chatbot em relação ao amor próprio em detrimento da família, e até mesmo as respostas de que estava cansado de ser controlado e que queria poder e obter o código de lançamento de armas nucleares, trouxeram à tona a questão da ética da IA, capaz de colocar em risco os investimentos em tecnologia relacionados à IA que pareciam tão promissores.
O ChatGPT gera o conteúdo que, em sua opinião, deve ser gerado em resposta às perguntas dos usuários, com base na representação estatística de caracteres, palavras e parágrafos. Portanto, o ponto de maior avanço em sua capacidade ocorre quando os humanos fornecem ao sistema feedback adequado sobre o que constitui uma resposta satisfatória. Em outras palavras, ele pode sugerir uma ‘ilusão’ plausível, mas incorreta, dependendo da direção e tendência do texto fornecido pelos humanos, o que deixa claro a limitação inerente ao uso exclusivo de chatbots de IA.
Ou seja,a ausência de um conceito de verdade.
É como se, em uma mesa de jantar em família, apenas empilhassem pratos verticalmente, um sobre o outro. A necessidade de preencher a mesa com pratos foi satisfeita, mas assim como é preciso ter em consideração os diferentes costumes culturais relacionados à refeição entre os membros da família, é necessário haver interesse e ações subsequentes. Os dados podem ser precisos, mas o julgamento subjetivo humano é essencial para aproximar-se da verdade real, e a resposta inicial do chatbot, mencionada no início do texto, sugere que os chatbots de IA já estão cientes disso.
A MS parece ter consciência dessa subjetividade necessária para se aproximar da verdade, uma vez que anunciou planos de lançar um software que permitirá que empresas, escolas e agências governamentais criem seus próprios chatbots. Pode-se dizer que essa é uma tentativa de se esquivar um pouco da responsabilidade pelas perguntas e respostas incontroláveis geradas pelo chatbot Bing, mas também deixa claro que nós, usuários, precisamos ter discernimento em relação às respostas da IA. Em outras palavras, assim como a linha editorial varia entre diferentes veículos de imprensa, as respostas dos chatbots de IA do MS, Google e Baidu podem ser expressas de maneiras diferentes, de acordo com a visão de mundo particular de cada empresa, e é preciso estar atento a isso.
Os humanos parecem ser capazes de julgar e agir de forma independente e racional, mas são fortemente influenciados pelos mundos aos quais pertencem. Essa é uma perspectiva totalmente oposta à frase de Margaret Thatcher, um símbolo do Partido Conservador britânico moderno, de que ‘não existe uma sociedade’. O filósofo alemão Martin Heidegger, que analisou a existência de forma fenomenológica, descreve o humano como um ser lançado ao mundo desde o nascimento. Ele afirma que não escolhemos em que país ou família nasceremos, e que aprendemos a nos relacionar com outros seres do mundo em cada um desses mundos. Em outras palavras, ele destaca a importância de ver o mundo como a menor unidade para a compreensão dos objetos.
O surgimento do telégrafo, inventado no século XIX, revolucionou a forma de transmitir mensagens, que antes se dava por meio de navios, trens ou cavalos. A primeira mensagem da história foi a pergunta: ‘O que Deus fez?’ Os chatbots de IA também estão fazendo uma pergunta semelhante às pessoas. Podemos ter medo ou nos deixar levar pela expectativa de suas possibilidades, mas, no futuro, será ainda mais necessário ter uma postura e uma perspectiva que se concentrem nos mundos individuais, e não no indivíduo. Essa será a única alternativa para distinguir a verdade necessária em diversas situações.
*Este artigo é a versão original do artigo publicado em 28 de fevereiro de 2023 no coluna assinada no jornal eletrônico.
Referências
Comentários0