Generatieve AI creatief of naïef?

Artificial Intelligence, afgekort “AI”: het is een begrip dat in de afgelopen jaren verhuisd is van het wetenschappelijk vakjargon naar de volksmond. Als we aan “AI” denken, dan denken we aan zelflerende systemen. Tot voorkort zagen we leren nog als iets dat typisch menselijk was, iets dat in schril contrast stond met onze computers die we alles stap voor stap moesten voorkauwen. Dat beeld is in een rap tempo aan het veranderen. Computers kunnen wel dégelijk leren, namelijk middels AI. En daardoor kunnen ze ineens allemaal dingen die we een decennium geleden niet eens voor mogelijk hielden: personen en andere objecten lokaliseren in plaatjes, muziekstukken herkennen aan de hand van fragmenten, en zelfs een moeilijk bordspel als Go winnen van de beste spelers ter wereld. “Wat kan AI dan níet?”, is een voor de hand liggende vraag.

Tot enkele jaren geleden was een veelgehoord antwoord op deze vraag: “AI is niet creatief, dat kan alleen de mens zijn”. Maar sinds kort bestaat er een nieuw type AI dat wél creatief is, genaamd “Generatieve AI”. Deze soort AI kan afbeeldingen genereren op basis van beschrijvingen, realistische nepvideo’s maken, en zelfs hele teksten schrijven. De Generatieve AI genaamd “ChatGPT” van OpenAI die vorig jaar voor het eerst in het nieuws kwam, heeft dit type technologie stevig op de kaart gezet. Creatief is ChatGPT zeker, en slim ook. En hij zet ons ook nog eens aan het denken: kunnen we niet simpelweg ál onze informatie-gerelateerde problemen oplossen met Generatieve AI?

Helaas is het antwoord op deze vraag “nee”. Generatieve AI bevat, net als andere vormen van AI, namelijk een aantal beperkingen waardoor het in veel gevallen geen geschikte oplossing biedt. De drie voornaamste beperkingen zijn: afhankelijkheid van de kwaliteit van trainingsdata, onherleidbaarheid van de beslissingen die de AI maakt, en afhankelijkheid van de Cloud.

Afhankelijkheid van de kwaliteit van trainingsdata

Deze beperking wordt ook wel “garbage in, garbage out” genoemd. AI is zelflerend, wat betekent dat de kwaliteit van de prestaties van AI volledig afhankelijk is van de kwaliteit van het materiaal waarop de AI getraind is. Het is inmiddels algemeen bekend dat ChatGPT, momenteel de meest ver ontwikkelde Generatieve AI ter wereld, lang niet altijd de waarheid verkondigt. Dat betekent niet dat ChatGPT liegt, maar dat hij onware dingen zegt terwijl hij ervan overtuigd is dat ze waar zijn. Het heeft er dus alles mee te maken dat ChatGPT tijdens zijn training onjuist geïnformeerd is. Qua “denkvermogen” is ChatGPT ook nog eens naïef genoeg om simpelweg alles wat hem ooit verteld is, voor waar aan te nemen. Voor marketingtoepassingen is dit niet zo’n probleem, aangezien de gegenereerde teksten van ChatGPT zelfs met fouten erin al zo indrukwekkend zijn voor mensen dat het doel van overtuigen bereikt wordt. Anders is dit voor dienstverlenende organisaties, waarbij de betrouwbaarheid van informatie voorop staat.

Onherleidbaarheid van de beslissingen die de AI maakt

AI wordt ook wel een “black box” genoemd. Dat betekent dat het onbekend is welke denk- of redeneerstappen een AI neemt om tot een bepaald resultaat te komen. Met “onbekend” wordt hier bedoeld: onbekend niet alleen voor de mens, maar ook voor de AI zelf. Dat laatste klinkt misschien wat vreemd: hoe kan de AI denken en redeneren, terwijl zij haar eigen gedachten en redeneringen niet begrijpt? Het heeft uiteindelijk allemaal te maken met wat ze in de psychologie “zelfbewustzijn” noemen. Een mens heeft zelfbewustzijn, en is daardoor in staat om haar eigen gedachten en gevoelens waar te nemen, te analyseren, en uit te leggen. Bij AI ontbreekt het volledig aan zelfbewustzijn. Daardoor is AI ook niet in staat om haar beslissingen op enige wijze te verantwoorden, bijvoorbeeld door middel van een herleiding van de denkstappen die aan een beslissing voorafgingen. Ook hier weer, is herleidbaarheid van beslissingen niet zo van belang bij marketingtoepassingen van AI, maar speelt hij juist wel een grote rol bij dienstverlenende organisaties. 

Afhankelijkheid van de Cloud

Om ChatGPT en andere Generatieve AI-systemen te laten draaien, is veel rekenkracht nodig. Een doorsnee PC, en zelfs een snelle consumentengamecomputer, is daar bij lange na niet geschikt voor. Microsoft, Google, en andere grote partijen gebruiken dure, gespecialiseerde hardware voor het aanbieden van hun AI-diensten. Interactie met Generatieve AI-systemen gebeurt dan ook via de Cloud: wij sturen onze opdrachten daarheen, en de AI stuurt antwoorden terug. Het is voor ons echter niet duidelijk wat er precies gebeurt in die Cloud. Op welke server in welk land komt onze data terecht? Wie heeft er allemaal toegang tot die data? In hoeverre wordt onze data gebruikt voor andere toepassingen, toepassingen waar we zelf niks meer mee te maken hebben? Deze privacy-gerelateerde vraagstukken zijn moeilijk te beantwoorden. Voor organisaties waarbij de privacy van bijvoorbeeld klantgegevens belangrijk is, levert afhankelijkheid van de Cloud altijd risico op.

Geen “of”, maar “en”

Generatieve AI is de eerste technologie in de geschiedenis van de mensheid die creativiteit van een menselijk niveau vertoont. Deze vorm van AI verdient dan ook zeker het label “creatief”. Maar evenzeer als Generatieve AI creatief is, is zij ook naïef. Zoals alle vormen van AI, gelooft de Generatieve variant alle informatie waarop zij getraind is, zonder feiten tegen elkaar af te wegen of te vergelijken met persoonlijke ervaringen. Daarnaast heeft Generatieve AI geen zelfbewustzijn, waardoor zij niet in staat is om haar eigen beslissingen te onderbouwen of uit te leggen. Tot slot is Generatieve AI afhankelijk van de Cloud, waardoor er al snel veel privacyvraagstukken bij komen kijken.

Kortom, generatieve AI is creatief én naïef.

En denken dat we eenvoudigweg alle informatie-gerelateerde problemen kunnen oplossen met Generatieve AI, dat is een stukje naïviteit van onze kant.