crashen Ook AI kan

Een IT-crash kan je organisatie platleggen. Maar ook een AI-systeem kan ineens ‘uit de bocht vliegen’, met onverwachte, oncontroleerbare en zelfs schadelijke uitkomsten. Ook dan tikt de klok.

“Veel bestuurders hebben geen scherp beeld bij wat er kan gebeuren als AI faalt”, zegt Friso Spinhoven, Head of Responsible AI bij Conclusion. “Maar vergis je niet: AI is software en kan falen, net als alle software.”

Een AI-crash kan zich op verschillende manieren uiten, bijvoorbeeld als onjuiste informatie, valse beloftes of verkeerde beslissingen. Zo kreeg een luchtvaartmaatschappij een rechtszaak aan de broek toen hun AI-chatbot niet-bestaande kortingen toezegde. De rechter gaf de klant gelijk: de klant mocht ervan uitgaan dat de toezeggingen van de chatbot zouden worden gehonoreerd.

Wat doe je dan, als bestuurder? Volgens Friso zijn er drie directe acties nodig: overzicht krijgen, verantwoordelijkheid nemen en communiceren. “Blijf niet hangen in de techniek. Breng snel in kaart wat de impact is, wie geraakt zijn, en wie je moet informeren. Wees eerlijk. En schakel hulp in: juridisch, technisch én communicatief.”

Net als bij een ‘gewone’ IT-storing komt leiderschap op scherp te staan. “Laat zien dat je in control bent, ook als dat even niet zo voelt. Toon verantwoordelijkheid en regie. Geen beslissing nemen leidt vaak tot grotere schade dan een verkeerd besluit nemen.”

Daarbij hoort ook: voorbereid zijn. “Zorg dat je weet waar je AI draait, welke beslissingen daaruit volgen en op wie je een beroep kan doen na een incident. AI-gebruik zonder governance is als rijden zonder remmen: het kan lang goed gaan, tot het ineens misgaat.”

Veel organisaties investeren nu in AI, maar denken te weinig na over wat er mis kan gaan. “En dat maakt je kwetsbaar”, zegt Friso. “Niet alles valt onder ‘technische fout’. Ook ethische misstappen kunnen de boel op scherp zetten.” Zo werd enige tijd geleden bekend dat een AI-algoritme van een organisatie buitenproportioneel vaak personen met een migratieachtergrond aanwees voor fraudecontroles. Het systeem functioneerde technisch prima, maar dit veroorzaakte veel commotie en reputatieschade. “Juist dit soort voorbeelden laten zien waarom je AI kritisch moet blijven volgen.”

“AI-toepassingen beïnvloeden steeds vaker de kern van je bedrijfsvoering, van klantinteractie tot risicobeoordeling en HR-keuzes. Behandel AI daarom als kritieke infrastructuur”, bepleit Friso. “Benoem verantwoordelijkheden en wees voorbereid op de dag dat het misgaat. Want je wilt niet dat je eerste AI-crisis je eerste oefening is.”