AI: macht zonder aansprakelijkheid
Wie draagt het risico als algoritmen beslissingen nemen over je leven?
AFM: AI-hypotheeksystemen discrimineren structureel op postcode en geslacht
Drie grote banken gebruiken modellen die vrouwen en bewoners van achterstandswijken benadelen
Een onderzoek van de Autoriteit Financiele Markten toont aan dat drie grote Nederlandse banken AI-systemen gebruiken voor hypotheekbeoordeling die structureel discrimineren. Vrouwelijke aanvragers worden 18% vaker afgewezen dan mannen met vergelijkbaar inkomen en dienstverband. Aanvragers uit postcodegebieden met een lager gemiddeld inkomen krijgen 23% minder vaak een hypotheek, ook wanneer hun individuele financiele situatie identiek is aan aanvragers uit welvarende wijken. De AFM heeft de banken gesommeerd de modellen aan te passen maar mist de juridische bevoegdheid om boetes op te leggen zolang de AI-aansprakelijkheidsrichtlijn niet van kracht is.
Algoritmen trainen op historische data waarin maatschappelijke ongelijkheden verankerd zitten. Als vrouwen in het verleden vaker hun hypotheek niet konden betalen door bijvoorbeeld echtscheiding of loopbaanonderbreking, leert het model dat vrouw-zijn een risicofactor is. Hetzelfde geldt voor postcodes: als bewoners uit bepaalde wijken historisch vaker betalingsproblemen hadden, generaliseert het model dat naar alle huidige bewoners. De banken stellen dat hun modellen "objectief" zijn omdat ze op data gebaseerd zijn, maar data is geen neutrale bron, het is een spiegel van het verleden. De Europese AI Act classificeert kredietbeoordeling als hoog-risico-AI, wat betekent dat er eisen gelden voor transparantie en non-discriminatie, maar de handhaving is nog niet operationeel.
De banken wisten van het probleem maar corrigeerden niet, omdat de discriminerende modellen statistisch gezien beter presteren. Ze voorspellen correct dat vrouwen vaker in deeltijd werken en dat inwoners van armere wijken gemiddeld meer financiele problemen hebben. De vraag is niet of het model klopt, maar of we als samenleving accepteren dat een algoritme individuele mensen afrekent op groepsgemiddelden. Dat is de kern van het AI-biasdebat: technische accuraatheid kan samenvallen met morele onaanvaardbaarheid. Zonder wettelijk kader blijft die afweging bij de banken zelf, en die kiezen voor het model dat het beste verdient.
Gebaseerd op: AFM-data die aantoont dat postcodegebaseerde modellen indirect discrimineren op inkomen en etniciteit, een patroon eerder gedocumenteerd in Amerikaanse hypotheekmarkten.
Historische context
De regulering van nieuwe technologie loopt historisch altijd achter op de adoptie. De auto bestond dertig jaar voordat verkeerswetten werden ingevoerd. Het internet was twee decennia oud voordat privacywetgeving serieus werd genomen. Bij AI is het patroon hetzelfde, maar het tempo is hoger. ChatGPT bereikte 100 miljoen gebruikers in twee maanden — sneller dan enige technologie in de geschiedenis. Ondertussen nemen AI-systemen al beslissingen over kredietverlening, strafrechtelijke risicoprofielen, medische diagnoses en sollicitaties. De EU AI Act, aangenomen in 2024, was een eerste poging tot regulering maar de aansprakelijkheidsvraag — wie betaalt als AI schade veroorzaakt — blijft onbeantwoord. De tech-industrie lobbyt actief tegen strenge aansprakelijkheid, met het argument dat het innovatie zou remmen.
Wat het je raakt
AI-systemen beoordelen je kredietwaardigheid en verzekeringsrisico. Bij fouten is verhaal juridisch bijna onmogelijk.
Geautomatiseerde screening wijst kandidaten af zonder uitleg. Je weet vaak niet eens dat een algoritme de beslissing nam.
AI-diagnosetools worden ingezet in ziekenhuizen en bij huisartsen zonder duidelijke aansprakelijkheid als het misgaat.
Wat je nu kunt doen
- 1.
Vraag bij elke afwijzing (hypotheek, verzekering, sollicitatie) schriftelijk om uitleg onder AVG artikel 22.
Waarom nu: Het AFM-onderzoek toont aan dat AI-systemen bij drie grote banken structureel discrimineren.
- 2.
Bewaar alle correspondentie bij financiele AI-beslissingen als bewijs voor toekomstig verhaalrecht.
Waarom nu: Zonder de aansprakelijkheidsrichtlijn tot 2028 heb je nu geen effectief juridisch kader.