‘Je loopt al snel achter de feiten aan’

REEUWIJK-DORP – Wie zich vandaag de dag online begeeft, ontkomt nauwelijks aan kunstmatige intelligentie (AI). Vooral het gemak waarmee de gebruiker schoolverslagen, cartoons en LinkedIn-posts creëert, maakt dit virtuele gereedschap mateloos populair. Ook overheden en bedrijven pakken diverse ‘slimme’ software met beide handen aan. Maar is die ontwikkeling ook direct een verbetering? AI‑expert en schrijfster Noya Nachmany plaatst kanttekeningen bij het klakkeloos omarmen van de AI‑hype.

door Duarte dos Santos Estrafalhote

Volgens Noya Nachmany uit Reeuwijk‑Dorp, die zich in haar boek ‘The Anomaly’ bezighoudt met ethisch AI‑gebruik, ligt de kern van die vragen niet bij techniek, maar bij bewustwording van de gebruiker. “Er is geen gebruiksaanwijzing erbij uitgebracht,” zegt ze, “wij zijn het massaal vol optimisme, maar zonder bedachtzaamheid, gaan gebruiken. Je loopt dan al snel achter de feiten aan.”

Ongewoon

Een kernelement van die bewustwording schuilt volgens Noya in het feit dat AI geen ‘gewoon’ IT-programma is zoals Word of Excel. “Het is een systeem dat leert en ingezet wordt om mee te denken. Daarom heeft het vooraf duidelijke grenzen nodig. Deze grenzen moeten door mensen worden bepaald.”

De schrijfster vervolgt: “Zodra een systeem invloed krijgt op beslissingen, is het geen neutraal gereedschap meer. Dan gaat het niet alleen over gemak, maar over verantwoordelijkheid.” Om verantwoordelijk met kunstmatige intelligentie om te gaan, is een goed doordacht plan nodig. “Bij software als Word leer je al doende. Bij AI is dat écht andersom, je moet vooraf nadenken over hoe het zich mag gedragen. Mijn advies: zorg dus eerst dat je een gedegen plan hebt.”

Vakkennis

Een plan opstellen is volgens Noya slechts het begin. Daarna moet er bij het gebruik van AI altijd iemand kunnen meekijken en ingrijpen: de zogeheten human in the loop. Dat is volgens haar “heel belangrijk”, en daarbij hoeft het niet per se om een technisch specialist te gaan. Integendeel: “Juist mensen zonder technische achtergrond.”

Daar zit volgens haar een belangrijke valkuil, met name bij overheden. “Omdat AI vaak als iets technisch wordt gezien, belandt het al snel volledig bij IT‑specialisten,” zegt ze. “Daarmee verdwijnt het inhoudelijke oordeel uit beeld.” Juist daarom moeten ook mensen met kennis van het werkveld betrokken blijven. “Het zijn vaak mensen zonder technische kennis, maar met veel verstand van hun eigen terrein.” Als voorbeeld noemt ze een teammanager die werkt met financiële administratie. “Die weet precies hoe processen lopen,” zegt Noya. “Die persoon moet aan tafel zitten om dat in kaart te brengen, zodat je een AI‑model ook goed kunt inrichten.”

Human in the loop

Waarom die menselijke controle zo essentieel is, blijkt volgens Noya uit voorbeelden uit het verleden. “Human in the loop betekent dat je niet blind vaart op de uitkomst van een systeem, maar zelf blijft kijken en beoordelen,” zegt ze. Dat geldt niet alleen bij het ontwerpen van een systeem, maar ook bij het gebruik ervan. “Het gaat om hoe je een AI‑model inricht, maar net zo goed om hoe je met de uitkomsten omgaat.”

Ze wijst daarbij op het Toeslagenschandaal. Volgens haar laat dat zien wat er kan gebeuren als risicomodellen en geautomatiseerde selecties te veel gewicht krijgen, zonder voldoende menselijke controle. Daarbij ging het niet om AI zoals veel mensen die nu kennen, maar wel om systemen die aanvragen beoordeelden op risico’s. Ook het gebruik van gegevens, zoals nationaliteit, bleek daarbij problematisch. Noya benadrukt dat het risico groter wordt wanneer organisaties onvoldoende weten welke gegevens in een systeem zitten en hoe die gegevens doorwerken in beslissingen. “Dit is wat er kan gebeuren als systemen leidend worden en niemand meer vraagt wat de impact is.”

Onduidelijkheid

Naast menselijke controle wijst Noya op het belang van bewust omgaan met data. Ze ziet dat veel organisaties, ook overheden, onvoldoende zicht hebben op wat er met gegevens gebeurt. “Ik zie dat nog steeds veel bedrijven en overheden niet goed weten waar hun data terechtkomt,” zegt ze. Volgens haar ontbreken vaak duidelijke kaders en voldoende beveiliging. “Er zijn te weinig waarborgen om zeker te weten dat informatie binnen het eigen systeem blijft.”

Ze stelt daarbij een simpele maar fundamentele vraag: “Weten we eigenlijk wel waar die gegevens eindigen?” De term ‘cloud’ klinkt volgens haar geruststellend, maar verdient nuance. “De cloud klinkt veilig,” zegt ze, “maar die is uiteindelijk niet van jou.”

Wat kunnen inwoners zelf doen? Noya begint bij alledaagse situaties, zoals contact met een klantenservicechatbot. “Moeten we alles zomaar goed vinden? Nee,” zegt ze. “Daar ligt ook een verantwoordelijkheid voor burgers.” Vragen stellen is daarbij cruciaal. “Begin met begrijpen wat je hoort te begrijpen,” zegt de AI-expert. “Dat kan natuurlijk alleen als organisaties die mogelijkheid tot begrip geven. Wanneer een chatbot je om gevoelige informatie vraagt, mag je best bij de desbetreffende organisatie nagaan wat daarmee gebeurt.”

Computerles

In het vergroten van die bewustwording ziet Noya een duidelijke rol voor de overheid. Op de vraag wie lokaal het voortouw zou moeten nemen, is haar antwoord resoluut: “De gemeente.” Ze noemt de gemeente het centrale punt voor bewoners én ondernemers. “De gemeente kan faciliteren, mensen bij elkaar brengen en kennis toegankelijk maken.” Daarbij trekt ze een vergelijking met eerdere digitale veranderingen. “Toen internet in de jaren 90 zijn intrede deed, boden veel gemeenten via bibliotheken computerlessen aan,” zegt ze. “Zo’n aanpak zou nu ook logisch zijn voor AI.”

Tot slot ziet Noya dat het gesprek over AI vaak in uitersten belandt. “Het debat splitst zich in twee kampen,” zegt ze: mensen die vooral angst voelen en mensen die vooral enthousiasme tonen. Haar boodschap aan die laatste groep is helder: “Even pas op de plaats.” Tegelijkertijd roept ze de kritische groep op tot nieuwsgierigheid. “AI is here to stay,” zegt ze. “Dus moeten we leren waar het past en waar niet, dat kan alleen met de juiste bewustwording.”