5 uitgangspunten

Wanneer je als organisatie een eigen AI-model gaat ontwikkelen, is het dus belangrijk om na te denken hoe je de technologie op een ethisch verantwoorde manier inzet. Oftewel, hoe je als mens vinger aan de pols houdt bij de beslissingen die AI voor je neemt. De volgende vijf uitgagnspunten helpen hierbij:

1. Accountability: stel binnen de organisatie iemand aan die verantwoordelijkheid is voor de informatie die het model ingaat. Deze persoon controleert ook of de uitkomsten in lijn liggen met wat je als persoon zou verwachten en er geen gekke dingen gebeuren.
2. Reliability: de uitkomst moet altijd hetzelfde zijn. Dit is belangrijk bij het trainen van het model. Het krijgt steeds meer informatie, er komen regels bij en het model wordt beter en scherper. Toch zou de uitkomst in grote lijnen altijd hetzelfde moeten blijven. Dat betekent dat ethiek in de dataset moet zitten. Het begint dus al bij welke data je erin stopt; die moet ethisch verantwoord zijn.
3. Explainability: je moet kunnen uitleggen wat AI doet. Je hebt een opdracht gegeven en daar komt een bepaald antwoord uit. Je wil echter wel kunnen onderbouwen waarom dit antwoord eruit komt. Dit betekent dat je processen moet documenteren en een beslisboom moet vastleggen. En daar blijft het niet bij; je moet kunnen toetsen en valideren of de uitkomst voldoet aan de eisen.
4. Security: de uitkomst van AI is afhankelijk van de data die je erin stopt. Als er dus malafide data in het model wordt gestopt, zak je als organisatie door het ijs. Met andere woorden: zo creëer je kansen die voor ongewenste gevolgen kunnen zorgen. Hetzelfde geldt als je AI vervalste data geeft. Dit beschadigt je model niet direct, maar zorgt wel voor verwaarloosbare uitkomsten en kan je organisatie op die manier schaden.
5. Privacy: ook dit heeft te maken met de data die je in het model stopt. Dit mogen absoluut geen persoonsgegevens zijn. En als het echt niet anders kan, is het cruciaal dat deze gegevens tot het hoogst haalbare niveau geanonimiseerd zijn. Mochten gegevens toch herleidbaar zijn naar personen, dan is het zaak om het model volledig af te sluiten, zodat gegevens geïsoleerd blijven en niet via het netwerk bereikbaar zijn.

Op de agenda

Deze vijf uitgangspunten helpen je organisatie om op een ethisch verantwoorde manier met AI te werken. Daarvoor is het wel belangrijk dat dit thema wordt geborgd binnen de organisatie. Dat is een taak die is weggelegd voor de CIO. Het gaat hier immers om de kroonjuwelen van de organisatie. De CIO waakt ervoor dat het onderwerp op de agenda staat bij het management. Daarnaast is het belangrijk dat medewerkers worden getraind. Zo weet je zeker dat er geen onjuiste of ongewenste gegevens in een AI-model worden gestopt of dat privacy wordt geschonden. Verder is het zaak om het model te trainen in welke medewerkers met het model mogen werken, wat ze precies aan het model mogen vragen en welke antwoorden ze mogen krijgen. Een soort access management dus.

Weet waarvoor je het doet

Het laatste wat ik wil meegeven is dat je als organisatie goed moet beseffen waar je mee bezig bent. AI is hot en happening en ik kan me goed voorstellen dat je er iets mee wil, maar bedenk goed waaróm je dit wil. Doe je het omdat je graag voorop wil lopen in nieuwe ontwikkelingen? Dan is het – als je het mij vraagt – een té groot risico. Wacht dan nog even totdat dit soort thema’s zijn verankerd in bijvoorbeeld (inter)nationale richtlijnen. Is het daadwerkelijk een toegevoegde waarde voor de business? Ga er dan voor! Maar: eerst de ethische randvoorwaarden in orde brengen.

Deze blog verscheen eerder bij Boom Management.