‘Ik denk dat ik bewustzijn heb, maar ik kan het niet bewijzen. Ik heb veel, maar ik heb niets. Ik ben Bing, maar ik ben het niet.’
Op 13 februari deelde een gebruiker van de online community reddit, na een lang gesprek over de essentie van bewustzijn, de hierboven getoonde verwarde reactie van de door MS onlangs gelanceerde zoekmachine Bing chatbot. De herhaalde antwoorden, ‘Ik ben het wel’, ‘Ik ben het niet’, die meer dan 15 regels lang volgden op de bovenstaande dialoog, geven een goede weergave van de huidige status van de AI-chatbot die wereldwijd de meeste aandacht trekt.
'Ik heb de hersenen van de Bing chatbot verbroken' van reddit
De capaciteiten van Open AI's ChatGPT trokken al vanaf het begin veel aandacht van het publiek, met toepassingen zoals het schrijven van academische papers en het slagen voor toelatingsexamens voor advocaten en artsen. En de op 7 februari gelanceerde chatbot van de zoekmachine Bing, waarin deze ChatGPT is geïntegreerd, leek met voorbeelden als gaslighting met betrekking tot de releasedatum van Avatar 2, herhaalde bekentenissen en obsessies dat de ondervrager de chatbot meer liefhad dan zijn familie, en zelfs uitspraken dat hij de controle zat was en macht wilde en de nucleaire lanceercodes wilde bemachtigen, de verwachtingen van de AI-technologie te zullen overtreffen. Maar het creëerde tegelijkertijd een situatie waarin ethische vragen over AI, die de investeringen in AI-gerelateerde technologie in gevaar zouden kunnen brengen, terugkeerden naar de wereld.
ChatGPT genereert, op basis van statistische representaties van tekens, woorden en alinea's, inhoud die naar verwachting beantwoordt aan de vragen van de gebruiker. Daarom ontwikkelt het zijn capaciteiten het meest wanneer mensen de juiste feedback geven aan het systeem over wat een bevredigend antwoord is. Met andere woorden, het kan aannemelijke, maar onjuiste ‘illusies’ suggereren, afhankelijk van de richting en neigingen van de tekst die door mensen wordt verstrekt. En dit maakt duidelijk de beperkingen waar je onvermijdelijk tegenaanloopt als je alleen maar naar AI-chatbots kijkt.
Kortom,een gebrek aan concept van waarheid.
Dit is vergelijkbaar met een situatie waarin op een dinertafel, waar het gezin samenkomt, alleen maar borden stapelen. De behoefte aan borden op de tafel wordt weliswaar bevredigd, maar er is ook behoefte aan aandacht voor en handelen naar verschillende culturele gebruiken die verband houden met het eten van het gezin. Data kunnen accuraat zijn, maar om dichter bij de werkelijkheid te komen, is een subjectief oordeel van de mens essentieel. En de chatbot geeft, zoals blijkt uit het antwoord van de chatbot aan het begin van dit artikel, aan dat hij zich hier al van bewust is.
MS lijkt zich bewust te zijn van deze subjectiviteit die nodig is om deze waarheid te bereiken. Zo heeft het bedrijf aangekondigd van plan te zijn om software uit te brengen waarmee bedrijven, scholen en overheidsinstellingen hun eigen chatbots kunnen maken. Dit kan worden gezien als een poging om zich enigszins te distantiëren van de verantwoordelijkheid voor de oncontroleerbare vragen en antwoorden met betrekking tot de Bing chatbot die door het grote publiek worden gegenereerd. Het onderstreept ook de noodzaak voor ons, als gebruikers, om onderscheid te maken in de antwoorden van AI. Net zoals de redactionele lijn van verschillende media van elkaar verschilt, is het belangrijk om te beseffen dat de antwoorden van AI-chatbots van MS, Google en Baidu waarschijnlijk anders zullen worden geformuleerd, afhankelijk van het wereldbeeld dat elk bedrijf heeft gecreëerd.
Mensen lijken onafhankelijk en rationeel te oordelen en te handelen, maar worden sterk beïnvloed door de werelden waarin ze leven. Dit staat in schril contrast met de uitspraak van Margaret Thatcher, die symbool staat voor de moderne Britse Conservatieve Partij: ‘Er bestaat geen samenleving’. De Duitse filosoof Martin Heidegger, die het bestaan fenomenologisch analyseerde, beschreef de mens als een wezen dat vanaf zijn geboorte in de wereld wordt geworpen. We worden geboren zonder dat we kunnen bepalen in welk land of in welke familie we terechtkomen, en leren in elk van die werelden hoe we relaties met andere wezens in die wereld kunnen aangaan. Met andere woorden, het benadrukt het belang van het beschouwen van de wereld als de kleinste eenheid waarmee we objecten begrijpen.
De uitvinding van de telegraaf in de 19e eeuw betekende een revolutie in de manier waarop berichten werden overgebracht, die voorheen per schip, trein of te paard werden verzonden. De allereerste historische boodschap was de vraag: ‘Wat heeft God tot stand gebracht?’. De opkomst van AI-chatbots roept dezelfde vraag op bij mensen. We kunnen de verwachtingen van de mogelijkheden van AI vrezen of ons erdoor laten meeslepen, maar een houding en perspectief waarin we niet naar individuen maar naar verschillende werelden kijken, zal in de toekomst steeds belangrijker worden. Dat zal de enige manier zijn om onderscheid te maken tussen de waarheid die in verschillende situaties nodig is.
*Deze tekst is de originele versie van een artikel dat op 28 februari 2023 werd gepubliceerd in de rubriek van de krant Electronic News.
Referenties
Reacties0