Een model dat zegt "deze lening wijzen we af" zonder uitleg, is moeilijk te vertrouwen en soms zelfs niet toegestaan. Mensen en regelgevers willen weten waarom een model tot een beslissing komt. Explainable AI geeft dat inzicht. Het laat zien welke kenmerken het zwaarst meewogen, zodat een voorspelling geen zwarte doos blijft.
Het belang hiervan groeit. Niet alleen omdat mensen terecht uitleg verwachten, maar ook omdat regelgeving steeds vaker eist dat geautomatiseerde beslissingen uitlegbaar zijn. Een model dat je niet kunt verklaren, is een risico, zowel voor het vertrouwen als voor de naleving van regels.
Vertex Explainable AI is deprecated per 16 maart 2026
Google heeft Vertex Explainable AI op 16 maart 2026 als deprecated gemarkeerd. Volgens de officiele documentatie blijft de functie beschikbaar tot 16 maart 2027, daarna vervalt de toegang. De principes in dit artikel blijven geldig, maar plan voor nieuwe of langlopende projecten een alternatief in en volg de Vertex AI release notes. Vertex AI valt sinds april 2026 onder het Gemini Enterprise Agent Platform, dus check daar voor de actuele uitlegfuncties.
Waarom uitleg ertoe doet
Uitleg dient meerdere doelen tegelijk. Het bouwt vertrouwen op: een gebruiker die ziet waarom een model iets besluit, accepteert de uitkomst eerder. Het helpt fouten opsporen: als een model op een onlogisch kenmerk leunt, ontdek je dat alleen als je in de beslissing kunt kijken. En het ondersteunt naleving: veel regels vereisen dat je beslissingen kunt verantwoorden.
Zonder uitleg vaar je blind. Je weet dat het model iets besluit, maar niet waarom. Als het er een keer flink naast zit, sta je met lege handen. Met uitleg kun je het gedrag begrijpen, controleren en verbeteren.
Een benadering, geen absolute waarheid
Explainable AI vertelt je niet de absolute waarheid over waarom een model iets doet, maar geeft een goede benadering van welke kenmerken het meest bijdroegen aan een specifieke voorspelling. Dat inzicht is in de praktijk enorm waardevol.
Wat Vertex AI laat zien
Voor een voorspelling toont Explainable AI welke kenmerken de uitkomst de ene of de andere kant op duwden, en hoe sterk. Bij een afgewezen lening zie je bijvoorbeeld dat een laag inkomen en een korte kredietgeschiedenis het zwaarst meewogen. Zo wordt een kale uitkomst een begrijpelijk verhaal.
Dat werkt zowel voor losse voorspellingen als voor een model als geheel. Je kunt inzoomen op waarom dit ene geval zo uitpakte, of uitzoomen om te zien welke kenmerken het model in het algemeen het belangrijkst vindt. Beide perspectieven helpen je het model te doorgronden.
Vertex AI biedt hiervoor twee soorten uitleg:
- Kenmerk-gebaseerde uitleg (feature-based): laat per voorspelling zien hoeveel elk kenmerk bijdroeg. Onder de motorkap gebruikt Vertex AI methodes zoals
sampled Shapley(voor boom-ensembles en AutoML-tabeldata),integrated gradients(voor neurale netwerken) enXRAI(voor beelden, waarbij relevante regio's worden aangewezen). - Voorbeeld-gebaseerde uitleg (example-based): zoekt met nearest-neighbor de trainingsvoorbeelden op die het meest op je invoer lijken. Omdat vergelijkbare invoer doorgaans vergelijkbare uitkomsten geeft, helpt dat om het gedrag van het model te verkennen.
Zo gebruik je Explainable AI bij een voorspelling
- Schakel Explainable AI in bij het
deployenvan een geschikt model en kies de juiste attributiemethode. - Vraag bij een voorspelling de bijbehorende uitleg op via de API of de console.
- Bekijk welke kenmerken de uitkomst het sterkst beinvloedden en in welke richting.
- Controleer of die kenmerken logisch en eerlijk zijn voor het besluit.
- Zoom uit om te zien wat het model in het algemeen belangrijk vindt.
- Gebruik de inzichten om fouten of vooroordelen te corrigeren.
Fouten en vooroordelen opsporen
Een krachtige toepassing van uitleg is het opsporen van scheve modellen. Soms blijkt een model te leunen op een kenmerk dat het niet zou mogen gebruiken, of op iets dat toevallig met de uitkomst samenhing in de trainingsdata maar niets met de werkelijke oorzaak te maken heeft.
Zonder uitleg zou je dat nooit zien. Met uitleg valt het op: waarom weegt dit kenmerk zo zwaar mee, terwijl het er logisch niets mee te maken heeft? Die vraag leidt je naar problemen in je data of je model die je anders gemist had.
Onderzoek je model actief op scheefheid
Een model kan onbedoeld discrimineren door te leunen op kenmerken die met gevoelige eigenschappen samenhangen. Explainable AI helpt zulke scheefheid opsporen, maar je moet er actief naar kijken. Een model dat je niet onderzoekt, kan stilletjes oneerlijk zijn.
Wanneer je uitleg nodig hebt
Niet elk model vraagt om dezelfde mate van uitlegbaarheid. Een aanbeveling voor een volgend liedje hoeft niet diep verklaard te worden. Een beslissing over een lening, een sollicitatie of een medische diagnose absoluut wel. Hoe groter de impact op mensen, hoe belangrijker dat je de beslissing kunt verantwoorden.
Stem je aanpak daarop af. Voor beslissingen met grote gevolgen voor mensen is uitlegbaarheid vaak een harde eis, soms zelfs wettelijk. Voor laag-risico toepassingen is het mooi meegenomen maar minder kritiek.
| Mate van uitleg | Wanneer | Voorbeelden |
|---|---|---|
| Verplicht | Ingrijpende beslissingen over mensen | Krediet, werk, zorg |
| Aanbevolen | Merkbare gevolgen waar transparantie het vertrouwen versterkt | Prijsbepaling, fraudesignalen |
| Optioneel | Laag-risico toepassingen zonder grote gevolgen | Lichte aanbevelingen, sortering |
Uitleg in de praktijk gebruiken
Uitleg is pas waardevol als je er iets mee doet. Toon waar relevant de belangrijkste redenen aan de gebruiker, zodat een beslissing navolgbaar is. Gebruik de inzichten intern om je model te verbeteren en oneerlijke patronen te corrigeren. En bewaar uitleg bij beslissingen die je later moet kunnen verantwoorden.
Bouw dit in vanaf het begin. Achteraf uitlegbaarheid toevoegen aan een model dat er niet op is ontworpen, is lastig. Door er vroeg rekening mee te houden, krijg je een model dat niet alleen goed presteert maar ook navolgbaar is.
Toon de reden bij een afwijzing
Toon bij een geautomatiseerde beslissing de belangrijkste redenen aan de betrokkene. Een afwijzing met uitleg voelt eerlijker en is beter te accepteren dan een kale nee, en het helpt de persoon ook om te begrijpen wat hij kan veranderen.
Tot slot
Explainable AI haalt het deksel van de zwarte doos. Het maakt beslissingen begrijpelijk, helpt fouten en vooroordelen opsporen en ondersteunt naleving van regels. Voor modellen die er echt toe doen, is uitlegbaarheid geen extraatje maar een voorwaarde voor verantwoord gebruik. Houd er wel rekening mee dat de Vertex-implementatie deprecated is en plan tijdig je vervolgstap.
Wat laat Explainable AI precies zien?
Welke kenmerken het zwaarst meewogen in een voorspelling en in welke richting, zodat je begrijpt waarom een model tot een uitkomst kwam.
Is Vertex Explainable AI nog beschikbaar?
Google markeerde de functie op 16 maart 2026 als deprecated. Volgens de documentatie blijft de toegang tot 16 maart 2027 beschikbaar. Plan voor nieuwe projecten een alternatief en volg de officiele Vertex AI release notes.
Helpt het tegen oneerlijke modellen?
Ja, het helpt scheefheid opsporen doordat je ziet of een model op ongepaste of irrelevante kenmerken leunt. Je moet er wel actief naar kijken.
Heb ik altijd uitleg nodig?
Nee, maar voor beslissingen met grote gevolgen voor mensen is het vaak een harde eis, soms zelfs wettelijk. Stem het af op de impact.
Welke soorten uitleg zijn er?
Twee: kenmerk-gebaseerde uitleg, die per kenmerk de bijdrage toont, en voorbeeld-gebaseerde uitleg, die vergelijkbare trainingsvoorbeelden ophaalt via nearest-neighbor.
Geeft de uitleg de absolute waarheid?
Het geeft een goede benadering van welke kenmerken het meest bijdroegen, geen perfecte verklaring. In de praktijk is dat inzicht zeer bruikbaar.
Explainable AI maakt van een ondoorzichtig model een navolgbaar systeem. Bouw uitlegbaarheid in waar beslissingen mensen raken, kijk actief naar wat je model belangrijk vindt en gebruik dat inzicht om eerlijker en beter te worden.