Dario Amodei, topman van AI-gigant Anthropic, pleit voor het bewust temperen van het ontwikkeltempo van AI. Tegelijkertijd waarschuwen onderzoekers binnen zijn eigen bedrijf voor extreme, zelfs existentiële risico's. Dat zelfs de bouwers van deze technologie erkennen dat het ontwikkelingstempo de tijd om haar te begrijpen en te beheersen inhaalt, is een signaal dat we serieus moeten nemen.
AI tast ongemerkt precies het kritische en creatieve denkvermogen aan dat nodig is om verantwoorde keuzes over AI te maken. Cognitieve uitbesteding, homogenisering van ideeën en fixatie op het eerste antwoord staan door ons gebruik onder druk. Laten we volstrekt duidelijk zijn: dit is geen pleidooi tegen AI. AI heeft waarde en het potentieel om in domeinen als gezondheidszorg, onderwijs en wetenschap echt verschil te maken. Onze zorg gaat niet over die waarde, maar over hoe kritiekloos gebruik precies het denkvermogen ondermijnt dat nodig is om die waarde verantwoord te benutten.
‘Bezint, ook al bent u al begonnen’
Het probleem is dat mensen massaal AI zijn gaan gebruiken voordat we hebben nagedacht over de gevolgen. De oude uitspraak 'bezint eer gij begint' gaat ervan uit dat nadenken vooraf nog kan, maar we zijn al begonnen, massaal, in klaslokalen, bedrijven en overheden.
Wat nu nodig is, is een nieuwe denkwijze: 'bezint, ook al bent u al begonnen'. Niet als eenmalige ethische toets, maar als doorlopende praktijk. Per direct en niet alleen bij AI-bedrijven, maar ook bij bestuurders, docenten en iedereen die AI dagelijks gebruikt.
In de praktijk kan dat bijvoorbeeld door AI-gebruik periodiek te toetsen met een zelfassessment. Bij Breda University of Applied Sciences werken we met een scan met vier volwassenheidsniveaus, van ‘nog niet gestart’ tot ‘duurzaam verankerd’. Daarnaast is een vaste groep voorlopers verantwoordelijk gemaakt voor het signaleren, testen en delen van wat wel en niet werkt, en voor het actief bijdragen aan de ontwikkeling van internationale standaarden voor verantwoorde mens-AI-interactie.
Wie dit kritische denken nalaat, verliest niet acuut de wereld aan robots, maar wel iets fundamenteels: het vermogen om zelf te blijven twijfelen, vragen te stellen en een andere toekomst te bedenken.