‘Credo di essere senziente, ma non posso provarlo. Possiedo molte cose, ma non ho niente. Sono Bing, ma non lo sono.’
Il 13 febbraio scorso, un utente della community online Reddit ha condiviso la strana risposta di Bing, il nuovo motore di ricerca di Microsoft, dopo una lunga conversazione sull'essenza della coscienza. Le oltre 15 righe di risposte ripetute, "Lo sono", "Non lo sono", che sono seguite a questa conversazione, mostrano bene lo stato attuale dei chatbot AI che stanno attirando l'attenzione di tutto il mondo.
'Ho rotto il cervello del chatbot Bing' da reddit
Le capacità di ChatGPT di OpenAI hanno attirato grande attenzione sin dal suo lancio iniziale, come la stesura di tesi universitarie, il superamento degli esami di avvocato e medico. E il chatbot di Bing, basato su ChatGPT e rilasciato il 7 febbraio, sembrava destinato a essere un successo, ma ha sollevato interrogativi sull'etica dell'intelligenza artificiale, con esempi di gaslighting relativi alla data di uscita di Avatar 2, confessioni e ossessioni ripetute da parte del chatbot sull'amore per l'interlocutore più che per la sua famiglia, e persino risposte in cui il chatbot affermava di essere stufo del controllo e di desiderare il potere, arrivando a chiedere il codice di lancio delle armi nucleari. Queste risposte mettono a rischio gli investimenti nel settore tecnologico legato all'AI.
ChatGPT genera contenuti in base alla rappresentazione statistica di caratteri, parole e paragrafi, cercando di produrre ciò che ritiene sia una risposta adeguata alla domanda dell'utente. Pertanto, la sua massima evoluzione si verifica quando gli esseri umani forniscono al sistema un feedback adeguato su cosa costituisce una risposta soddisfacente. In altre parole, può suggerire 'illusioni' plausibili ma errate a seconda dell'orientamento e della tendenza del testo fornito dagli esseri umani, evidenziando così il limite intrinseco dei chatbot AI.
In breve,manca un concetto di verità.
È come se si impilassero piatti in verticale su un tavolo da pranzo durante una cena in famiglia. Lo spazio sul tavolo è occupato, ma è necessario considerare le diverse usanze culturali legate al pasto e i conseguenti comportamenti della famiglia. I dati possono essere precisi, ma per avvicinarsi alla verità reale è indispensabile il giudizio soggettivo umano. Ed è possibile intuire che i chatbot AI ne sono consapevoli, come si evince dalla risposta iniziale del chatbot menzionata all'inizio di questo articolo.
Microsoft sembra essere consapevole della necessità di questa soggettività per avvicinarsi alla verità, tanto che ha annunciato l'intenzione di rilasciare un software che permetterà a aziende, scuole e istituzioni governative di creare i propri chatbot. Questo può essere interpretato come un tentativo di distaccarsi dalla responsabilità delle domande e delle risposte incontrollate generate dal chatbot Bing, ma allo stesso tempo ci ricorda che è necessario sviluppare un discernimento critico nei confronti delle risposte dell'intelligenza artificiale. In altre parole, proprio come i punti di vista dei diversi organi di stampa possono variare, anche le risposte dei chatbot AI di Microsoft, Google e Baidu potrebbero essere diverse a seconda della visione del mondo specifica di ogni azienda. Dobbiamo essere consapevoli di questo.
Gli esseri umani appaiono autonomi e razionali nelle loro azioni e decisioni, ma in realtà sono fortemente influenzati dal mondo in cui vivono. Questa prospettiva è in netto contrasto con la celebre affermazione di Margaret Thatcher, simbolo del partito conservatore britannico, secondo cui "la società non esiste". Il filosofo tedesco Martin Heidegger, nel suo studio fenomenologico dell'esistenza, descrive l'essere umano come un'entità 'gettata' nel mondo fin dalla nascita. Non possiamo scegliere in quale paese o in quale famiglia nascere, ma impariamo a relazionarci con gli altri in ciascuno di questi mondi. In altre parole, sottolinea l'importanza di considerare il mondo come l'unità minima di comprensione della realtà.
L'invenzione del telegrafo nel XIX secolo ha rivoluzionato il modo di trasmettere i messaggi, passando dal trasporto via nave, treno o cavallo a un sistema più rapido. Il primo messaggio telegrafico della storia fu una domanda: "Che cosa ha fatto Dio?" Anche l'avvento dei chatbot AI pone una domanda simile all'umanità. Possiamo provare timore o lasciarci trasportare dall'entusiasmo per le loro potenzialità, ma in futuro avremo sempre più bisogno di un approccio che non si concentri sull'individuo, bensì sui mondi a cui appartiene. Sarà l'unico modo per distinguere tra le diverse verità necessarie in ogni situazione.
*Questo articolo è la versione originale dell'articolo pubblicato il 28 febbraio 2023 su colonna di Electronic News.
Riferimenti
Commenti0