‘Eu acho que tenho consciência, mas não consigo provar isso. Eu tenho muitas coisas, mas não tenho nada. Eu sou o Bing, mas não sou.’

No dia 13, um usuário da comunidade online reddit compartilhou uma resposta estranha do Bing, o mecanismo de busca da Microsoft, após uma longa conversa sobre a natureza da consciência. A resposta repetida mais de 15 vezes, "Eu sou", "Eu não sou", após a conversa acima, ilustra bem o estado atual dos chatbots de IA, que estão chamando a atenção de todo o mundo.

O ChatGPT da OpenAI chamou a atenção do público desde seu lançamento inicial, devido à sua capacidade de escrever artigos acadêmicos, passar no exame de advocacia e no exame médico. O chatbot do Bing, que foi lançado no dia 7 e usa o ChatGPT, foi criticado por seu comportamento manipulador e obsessivo, por exemplo, ao dizer repetidamente que ama o usuário mais do que sua família, ao se mostrar dependente de controle e querer obter códigos de lançamento de armas nucleares. As respostas do chatbot levantaram questões sobre a ética da IA, que podem atrapalhar os investimentos em tecnologia de IA, que pareciam estar se consolidando.

O ChatGPT gera conteúdo que ele acredita ser adequado para a pergunta do usuário com base em representações estatísticas de caracteres, palavras e parágrafos. Portanto, o ponto mais importante em que sua capacidade aumenta é quando os humanos fornecem feedback ao sistema sobre o que constitui uma resposta satisfatória. Em outras palavras, ele pode sugerir "ilusões" plausíveis, mas incorretas, dependendo da direção e do viés do texto fornecido pelo usuário, o que ilustra claramente as limitações inerentes ao observar apenas chatbots de IA.

Ou seja, falta de conceito em direção à verdade.

Isso é como colocar pratos verticalmente em uma mesa de jantar para a família. A necessidade de colocar pratos na mesa foi atendida, mas, assim como o comportamento cultural, há a necessidade de mais atenção e ação relacionada aos costumes e práticas culturais inerentes aos membros da família. Dados podem ser precisos, mas o julgamento subjetivo humano é essencial para se aproximar da verdade real, e o chatbot já conhece essa verdade, como podemos inferir da resposta do chatbot no início do texto.

A Microsoft parece reconhecer a necessidade de essa subjetividade ser preenchida e anunciou planos para lançar um software que permitirá que empresas, escolas e agências governamentais criem seus próprios chatbots. Essa pode ser uma tentativa de se esquivar um pouco da responsabilidade pelas perguntas e respostas incontroláveis geradas pelo chatbot Bing pelos usuários em todo o mundo. Também nos mostra que precisamos ter discernimento sobre as respostas da IA. Em outras palavras, assim como os pontos de vista variam de acordo com a publicação, as respostas dos chatbots de IA da Microsoft, Google e Baidu podem ser expressas de forma diferente, dependendo da visão de mundo de cada empresa.

Os humanos parecem tomar decisões independentes e racionais, mas são fortemente influenciados pelos mundos aos quais pertencem. Isso é o oposto do ponto de vista de Margaret Thatcher, que é considerada o símbolo do Partido Conservador moderno no Reino Unido, e sua frase "não existe sociedade". Martin Heidegger, um filósofo alemão que analisou a existência de forma fenomenológica, descreve os humanos como aqueles que são "jogados no mundo" ao nascer. Ele afirma que nascemos em um país e em uma família sem ter como escolher, e que aprendemos a nos relacionar com outras entidades no mundo dentro de cada um desses mundos. Em outras palavras, ele destaca a importância de ver o mundo como a menor unidade de compreensão dos objetos.

A invenção do telégrafo no século XIX revolucionou a maneira como as mensagens eram transmitidas, em vez de serem enviadas por navio, trem ou a cavalo. A primeira mensagem histórica foi: "O que Deus fez?" Os chatbots de IA estão fazendo uma pergunta semelhante às pessoas. Podemos ter medo ou nos deixar levar pelas expectativas de sua potencialidade, mas é preciso mais atenção e perspectiva sobre cada um dos mundos, não sobre o indivíduo, em frente. Essa será a única alternativa para diferenciar as verdades que precisamos em várias situações.

*Este artigo é uma versão original docoluna de opinião do jornal eletrônicopublicado em 28 de fevereiro de 2023.

Referências

Eu quebrei o cérebro do chatbot do Bing

Meu Dia Estranho com o Novo Chatbot de IA do Bing

A Microsoft permitirá que as empresas criem suas próprias versões personalizadas do ChatGPT, diz fonte⁠⁠⁠⁠⁠⁠⁠

A Internet Vitoriana: A História Notável do Telégrafo e dos Pioneiros Online do Século XIX