Generatieve AI en het gevaar van een gigantisch propagandamedium

De techbro’s stonden te trappelen om te knipmessen voor Trump. Wij gebruiken hun technologie, van social media tot AI. Natuurlijk was er van alles mis, maar er was toch een algemeen vertrouwen dat ze onze waarden deelden. Dat beeld is aan diggelen. Wat betekent dat voor ons?

De AI-tools die sinds Chat-GPT op de markt zijn gekomen, zijn voor ons, het publiek, ‘black boxes’: we weten niet wat erin is gestopt, behalve dat we weten dat het hele internet is afgegraasd om het systeem te trainen. Dat er een en ander mis mee was, wisten we al: onder de techbro’s heerst het idee dat je straffeloos alles wat op het internet staat kosteloos mag gebruiken met de bedoeling om er schandalig veel geld mee te verdienen. Dat je daarbij gebruik kan maken van auteursrechtelijk materiaal zonder de auteur daarvoor te vergoeden, doet voor hen kennelijk niet ter zake.

Desondanks leken de bazen van die bedrijven toch min of meer aan de goede kant van de geschiedenis te staan. De bewondering voor deze technologische vaandeldragers was groot, en het auteursrecht was tijdens eerdere rondes van ‘disruptieve’ innovatie al ter discussie gesteld -- zie de vele discussies over illegaal downloaden in het verleden -- dus dat was niets nieuws.

We wisten ook al dat wat er uit die AI-stystemen komt problematisch kan zijn: dat het allerlei stereotypen reproduceert en dat het er soms op los fabuleert. Maar dat leken aanvankelijk de makkes van een nieuwe techniek of de ingevoerde logaritmen, of hooguit de gevolgen van onbewuste vooroordelen die door betere input, aanpassingen en wat beperkingen konden worden gecorrigeerd. Evidente racistische prompts werden geweigerd, en af en toe leidde dat tot een hilarisch resultaat zoals een plaatje van een zwarte George Washington. Het leek allemaal hanteerbaar en oplosbaar.

Maar sinds de ‘techbro’s’ aan  het begin van de tweede termijn van Trump niet wisten hoe snel ze zich aan zijn voeten moesten werpen, is dat positieve beeld aan diggelen geslagen. Waar we voorheen misschien konden denken – wensen, hopen?-- dat het allemaal wel goed zou komen (of in ieder geval niet al te zeer uit de hand zou lopen), moeten we nu concluderen dat de risico’s groot zijn.

We weten nu dat de output kan worden gecorrigeerd op grond van politieke besluiten. Tot voor kort ging dat volgens regels die de meeste mensen wel zullen steunen, bijvoorbeeld het uitsluiten van rassenvooroordelen en fascistische propaganda. Maar dat betekent ook dat de uitkomsten kunnen worden beïnvloed op grond van duistere politieke motieven. Nu blijft het, onder het voorwendsel van ‘vrijheid van meningsuiting’ en ‘anti-woke’, bij het verwijderen van eerder genoemde correcties, zodat rassenvooroordelen, nepnieuws, deepfakes, antidemocratische en fascistoïde uitingen weer vrij baan krijgen. Dat is eigenlijk al heel erg.

Nu we hebben gezien dat de techbro’s niet konden wachten om te knipmessen voor Trump, wie garandeert ons dat er geen nieuwe beperkingen worden toegevoegd? Er zijn op social media als LinkedIn en Facebook bepaalde politieke uitingen geshadowband (lees: dat ze zonder politiek directief en zonder daar transparant over te zijn, niet, minder vaak of slechts binnen beperkte kring zichtbaar werden gemaakt). Het valt niet uit te sluiten de techbro’s ook bij AI de huik naar de wind zullen hangen en uitingen die Trump onwelgevallig zijn zullen verstoren of censureren. Ik denk aan manipulaties waarbij bijvoorbeeld klimaatwetenschap in een kwaad daglicht wordt gesteld en onderzoeksresultaten worden weggelaten of onjuist weergegeven. En het is ook niet onmogelijk dat onwelgevallige feiten worden geschrapt of weggemoffeld.

Wat betekent dat? Ieder verstandig mens was al waakzaam als hij gebruik maakte van Chinese software. Overheid en bedrijven zijn zich bewust van de mogelijkheden van spionage, en ook iedere burger weet dat TikTok functioneert binnen een totalitair regime dat censuur en intimidatie niet schuwt. China is in die zin een bekende vijand. We moeten ons realiseren dat ook in de VS ondemocratische krachten aan het bewind zijn en dat de technologiesector daar in meegaat: Google heeft (althans in Amerika zelf) de naam Golf van Mexico al veranderd in Golf van Amerika.

Dat alles schept grote risico’s. Je weet niet door welke logaritmes onze tijdlijnen wordt gestuurd. Je weet niet wat Microsoft doet met onze teksten in de Cloud. Je weet niet wat er binnen de black boxes van AI-systemen huist, en je weet niet hoe wat daarin zit de informatie die we krijgen beïnvloedt. Onder Trump worden hele lijsten verboden woorden van overheidssites en uit overheidsinformatie verwijderd, en ook de wetenschap moet eraan geloven. Het is naïef om ervan uit te gaan dat de AI- en andere systemen van Amerikaanse bedrijven daar immuun voor zullen zijn. En als de techbro’s het niet zelf doen: kortgeleden werd bekend dat Rusland in een aantal bekende AI-systemen had zitten rommelen.

In potentie zijn de bestaande generatieve AI-systemen dus gigantische propagandamachines, en de kans is aanwezig dat ze ook al zo worden ingezet. Dit noopt tot veel meer oplettendheid dan het gebruikelijke gezonde wantrouwen jegens een bedrijf dat geld wil verdienen. Het betekent dat we ons bewust moeten zijn welke systemen we gebruiken, op welke manier we die gebruiken en met welke risico’s, en waar de bedrijven die ze maken en beheren gevestigd zijn. We zullen ons bij iedere zoekopdracht moeten realiseren welke informatie we prijsgeven en welke bias de teruggekregen informatie kan bevatten. En misschien moeten we wel tot de conclusie komen dat we de generatieve AI-systemen – en mogelijk ook andere systemen - van deze bedrijven in bepaalde gevallen helemaal niet meer willen gebruiken.

Hoe dan ook zullen we, als we inderdaad van deze technologie gebruik willen maken, op zoek moeten naar systemen die eerlijk, transparant en onafhankelijk zijn, die wel democratisch gelegitimeerd zijn en waarbij het auteursrecht wordt gerespecteerd. Pas dan kunnen we terug naar een ‘gewoon’ gezond wantrouwen.