AI: macht zonder aansprakelijkheid
Wie draagt het risico als algoritmen beslissingen nemen over je leven?
Onderzoek: AI-hypotheeksystemen wijzen structureel meer vrouwen af
Een onderzoek van de Autoriteit Financiële Markten toont aan dat drie grote Nederlandse banken AI-systemen gebruiken die vrouwelijke aanvragers 18% vaker afwijzen dan mannen met vergelijkbaar inkomen.
Algoritmen trainen op historische data waarin genderbias verankerd zit. De AFM heeft beperkte bevoegdheden om in te grijpen zolang de AI-aansprakelijkheidsrichtlijn niet van kracht is.
De banken wisten van het probleem maar corrigeerden niet, omdat de modellen 'statistisch accuraat' zijn — ze voorspellen correct dat vrouwen vaker in deeltijd werken. De vraag is niet of het model klopt, maar of we dit criterium acceptabel vinden.
Gebaseerd op: AFM-onderzoek dat historische trainingsdata genderbias bevat, gecombineerd met het academische inzicht (O'Neil, 2016) dat algoritmische eerlijkheid en statistische accuratesse kunnen botsen.
Historische context
De regulering van nieuwe technologie loopt historisch altijd achter op de adoptie. De auto bestond dertig jaar voordat verkeerswetten werden ingevoerd. Het internet was twee decennia oud voordat privacywetgeving serieus werd genomen. Bij AI is het patroon hetzelfde, maar het tempo is hoger. ChatGPT bereikte 100 miljoen gebruikers in twee maanden — sneller dan enige technologie in de geschiedenis. Ondertussen nemen AI-systemen al beslissingen over kredietverlening, strafrechtelijke risicoprofielen, medische diagnoses en sollicitaties. De EU AI Act, aangenomen in 2024, was een eerste poging tot regulering maar de aansprakelijkheidsvraag — wie betaalt als AI schade veroorzaakt — blijft onbeantwoord. De tech-industrie lobbyt actief tegen strenge aansprakelijkheid, met het argument dat het innovatie zou remmen.
Wat het je raakt
AI-systemen beoordelen je kredietwaardigheid en verzekeringsrisico. Bij fouten is verhaal juridisch bijna onmogelijk.
Geautomatiseerde screening wijst kandidaten af zonder uitleg. Je weet vaak niet eens dat een algoritme de beslissing nam.
AI-diagnosetools worden ingezet in ziekenhuizen en bij huisartsen zonder duidelijke aansprakelijkheid als het misgaat.
Wat je nu kunt doen
- 1.
Vraag bij elke afwijzing (hypotheek, verzekering, sollicitatie) schriftelijk om uitleg onder AVG artikel 22.
Waarom nu: Het AFM-onderzoek toont aan dat AI-systemen bij drie grote banken structureel discrimineren.
- 2.
Bewaar alle correspondentie bij financiele AI-beslissingen als bewijs voor toekomstig verhaalrecht.
Waarom nu: Zonder de aansprakelijkheidsrichtlijn tot 2028 heb je nu geen effectief juridisch kader.