is degene die denkt het te snappen  

De gevaarlijkste AI-gebruiker

Niemand rolt een nieuw ERP- of CRM-systeem uit zonder bijbehorende training, adoptieplan of meting van vaardigheden en kennis van toekomstige gebruikers. Het is een open deur dat de implementatie van technologie valt of staat met gebruikers die het systeem begrijpen. Gek genoeg gooien we dit bij AI overboord. Het gebruik groeit op natuurlijke wijze in organisaties en investeringen volgen in tools en licenties. Maar hoeveel aandacht gaat er naar het kennisniveau van de mensen die met AI-systemen werken?

Onderzoek wijst uit dat de kennis van werkend Nederland over AI-terminologie en -geletterdheid op een onvoldoende blijft steken met een 5,1. Tegelijkertijd denkt de meerderheid de basis wel te snappen. Onvoldoende kennis, maar ruim voldoende vertrouwen dus. Juist deze combinatie is risicovol voor AI-implementaties.

Wat je kunt ervaren, blijft je bij. Je zult herkennen dat dit ook voor AI geldt. Je weet wat een prompt of deepfake is, omdat je er in het dagelijks leven volop gebruik van maakt of mee wordt geconfronteerd. Maar zodra het gaat over de werking van een LLM of de neurale netwerken die eraan ten grondslag liggen, stokt de kennis. Want dat leer je niet ‘on the job’, maar moet je je actief in verdiepen. En dat doet niet iedereen. Ook de mensen in jouw organisatie niet, want dagelijks gebruik voedt het vertrouwen dat ze wel weten hoe het zit. Een veelzeggende misvatting is dat bijna de helft van de Nederlanders (47%) denkt dat GenAI een soort slimme zoekmachine is en bestaande informatie samenvat. Slechts een minderheid begrijpt de daadwerkelijke werking ervan, namelijk dat het op basis van aangeleerde kennis zelf iets nieuws maakt, zoals tekst, beeld, geluid of code. AI-adoptie gaat in organisaties dus sneller dan AI-geletterdheid. 

Op organisatieniveau vertaalt dit kennisgat zich in een gebruiksprobleem. Want hoe mensen denken dat AI werkt, bepaalt hoe ze het inzetten. Als je denkt dat AI zoekt in beschikbare informatie, stel je je vragen vanuit het idee dat de tool een soort database is en verwacht je dat antwoorden feitelijk kloppen. Weet je echter dat AI-tools achter de schermen zelf antwoorden samenstellen op basis van waarschijnlijkheid, dan ga je er anders mee om en lees je antwoorden niet meer als feiten. Op deze manier leidt dezelfde tool per persoon tot ander gebruik.  

Het venijnige is dat een onjuist beeld zich niet vanzelf corrigeert door AI vaker te gebruiken. AI blijft met overtuigende antwoorden komen, ook als je het als database behandelt. Juist deze overtuigingskracht bevestigt het foutieve beeld. Maar zodra dit over je organisatie, klanten of expertise gaat, wordt dat een risico. Een generiek taalmodel is niet bekend met jouw bedrijfsspecifieke gegevens en zal er vrolijk op los hallucineren. Bewustwording onder medewerkers is daarom een eerste stap om een onjuist beeld van AI aan te pakken. Het bijbehorende risico rond je bedrijfsgegevens kun je ook technisch ondervangen, bijvoorbeeld met RAG (Retrieval Augmented Generation), waarbij je een LLM uit bedrijfsinformatie laat putten om output te versterken.

Maar zelfs als medewerkers AI aan de voorkant juist inzetten, is wat er daarna gebeurt als AI met antwoorden komt minstens zo bepalend voor de effectiviteit. Het is inmiddels bijna een mantra dat je moet controleren wat AI teruggeeft. Op papier weet men dat ook, maar dat is wat anders dan wantrouwen op het moment zelf. AI komt over als een zelfverzekerde collega, waardoor je er niet snel aan twijfelt. Maar dat moet je juist wel doen. De stelligheid van AI is geen signaal van betrouwbaarheid, maar een ontwerpkeuze. De tool is gemaakt om autoriteit uit te stralen, wat je ook vraagt. Nu hoeft niet alles gedubbelcheckt te worden, maar als je niet doorhebt dat AI hallucineert, schat je verkeerd in wanneer verificatie nodig is. En zo sluipt ongecontroleerde output in het werk. Hier komt bij dat diezelfde zelfverzekerde houding mensen laat onderschatten waar de verantwoordelijkheid ligt. Gaat het mis, dan is niet de AI-tool, de maker of de IT-afdeling verantwoordelijk, maar de gebruiker zelf. Als dat besef voldoende indaalt, gaan mensen scherper kijken naar wat AI teruggeeft en hoe ze het vervolgens in hun werk toepassen.  

Als je AI uitrolt in een organisatie waarin mensen het denken te snappen, maar het in de praktijk niet doen, dan bouw je op drijfzand. Goede AI-implementatie begint daarom bij een realistische inschatting van het kennisniveau van gebruikers, net als bij iedere andere implementatie die je doet. Meet AI-readiness daarom af aan geletterdheid en maak een kennisassessment standaard onderdeel van je AI-traject. Je bent pas AI-ready als gebruikers daadwerkelijk weten wat de tool wel en vooral niet doet.