Byungchae Ryan Son

Onze veranderende relatie met algoritmen

Aangemaakt: 2024-05-09

Aangemaakt: 2024-05-09 15:01

“We hebben nu een AI-model dat menselijke taal kan analyseren en modellen van de wereld kan extraheren.”


Tijdens een evenement van een liefdadigheidsorganisatie in Ontario, Canada, op 19 december, verwees klinisch psycholoog en professor aan de Universiteit van Toronto, Jordan Peterson, naar recente voorbeelden van het gebruik van ChatGPT en sprak over de nieuwe spanning die algoritmen in de toekomst zullen creëren tussen mens en machine. Peterson waarschuwde dat grote taalmodellen, generatieve AI, binnenkort afbeeldingen en acties zullen gebruiken om zelf patronen te extraheren en deze aan de wereld te testen. Hij beweerde dat ze zo slim zullen worden dat ze de rol van menselijke wetenschappers in enkele seconden kunnen overnemen.


GPT-3, DALL-E en Stable Diffusion vormen nu de basis van vrijwel alle AI-systemen en maken de verschuiving in het AI-paradigma zichtbaar. Deze krachtige systemen die afbeeldingen en tekst genereren op basis van gebruikersbehoeften, veroorzaken onvermijdelijk conflicten met bestaande makers binnen industrieën. In november werd Microsoft's GitHub Copilot getroffen door een collectieve rechtszaak, waarbij werd beweerd dat het de wettelijke rechten schond van talloze auteurs die code onder een open-source licentie hadden gepubliceerd om AI te trainen. Bovendien benadrukte de Recording Industry Association of America (RIAA) in een verklaring in oktober dat AI-gebaseerde muziekcreatie en remixen een bedreiging vormen voor de rechten en financiële situatie van muzikanten.


Deze voorbeelden werpen de vraag op of de manier waarop systemen worden getraind en resultaten produceren op basis van auteursrechtelijk beschermde gegevens, wel eerlijk is voor iedereen. Het is echter belangrijk om op te merken dat deze discussies grotendeels gericht zijn op het nieuwe, technologiegerichte aspect. Uiteindelijk is de gebruiker degene die tekst invoert in een AI-model om de gewenste resultaten te verkrijgen, en daarom is het belangrijker om te beginnen met nadenken over hoe de relatie tussen mens en algoritme er in de toekomst uit zou moeten zien.


Algoritmes zijn al een onderdeel van het genereren van onze wereld, net zoals mensen dat doen. We hebben ons al lang zorgen gemaakt over de ondoorzichtigheid van algoritmen en de maatschappelijke gevolgen ervan. We wisten dat het moeilijk was om te bepalen wie verantwoordelijk was in geval van gebrek aan transparantie, en we waren bezorgd dat vooroordelen in algoritmen zouden blijven bestaan en zouden leiden tot oneerlijke resultaten. Daarom is de vraag 'hoe moeten we met algoritmen omgaan?' misschien wel de belangrijkste, en we kunnen aanwijzingen vinden in onze vertrouwde relatie met algoritmen die content genereren (content-generating algorithm).


Ten eerste,zijn we ons bewust van het bestaan van algoritmen. Woorden als 'aanbevelingen' en 'selecties' die vaak voorkomen in gesprekken over content en advertenties, laten zien hoe mensen hun woordenschat hebben aangepast aan de rol van algoritmen in online winkelen en sociale media. Ook zijn we nieuwsgierig naar algoritmen. Als we bijvoorbeeld zien dat de homepage van YouTube volstaat met content uit een bepaalde categorie, of als we vinden dat onze eigen content niet voldoende wordt weergegeven, laten we onze nieuwsgierigheid naar algoritmen vaak zien door middel van een negatieve reactie.


Ten slotte willen we dat algoritmen actief en levend zijn en voor ons bestaan. We vertrouwen op algoritmen om nieuwe gewoontes aan te leren, om te leren, om dingen te onthouden. Om dit te bereiken, proberen we algoritmen volledig te beheersen. We gebruiken misschien irrelevante hashtags, activeren de modus 'niet storen' of sturen feedback over advertentie-opties. En als al deze pogingen mislukken, proberen we zelfs een digitale detox of het lezen van nieuwsbrieven om de banden met algoritmen te verbreken.


Kortom, mensen hebben de neiging om wantrouwen, negatieve beoordelingen en vastzitten in het verleden te tonen wanneer hun relatie met algoritmen niet verloopt zoals ze willen. En dit lijkt in grote mate op de 'sociale relaties'die we dagelijks aangaan. Verder was de relatie met bestaande contentgenererende algoritmen voornamelijk een eenzijdige relatie in het domein van 'consumptie', terwijl de relatie met huidige AI-algoritmen, grote taalmodellen, beter kan worden gedefinieerd als een tweezijdige relatie in het domein van 'creatie'. Gezien het feit dat de resultaten waarnaar gebruikers vragen, geen volledige originaliteit hebben en gebaseerd zijn op het werk van iemand anders, is het noodzakelijk om te beseffen dat onze houding en aanpak ten aanzien van generatieve AI-algoritmen fundamenteel moeten veranderen.


Zelfs als je het ChatGPT-venster open hebt staan, wacht het AI-algoritme gewoon. Misschien is het gewoon verborgen achter zijn verbazingwekkende capaciteiten, maar als je iets typt, helpt het je misschien gewoon om een verborgen sociale relatie met iemand anders in je wereld tot bloei te laten komen.


*Deze tekst is de originele versie van een artikel dat op 9 januari 2023 werd gepubliceerd in de getekende column van de Electronic Times.


Referenties


Reacties0