Stichting KOG
U bekijkt nu de pagina: Actualiteit
<< vorige pagina   
print pagina
 

Is de computer de baas?

Actualiteit >>

Zelflerend algoritme?
Trouw van 14 november meldt op de voorpagina dat Amsterdam werkt met een algoritme dat “jongeren die niets hebben uitgehaald” op de risicolijst zet. Op 12 november bevatte Trouw een artikel ‘Nederland probeert Europabreed nieuwe toeslagenaffaires te voorkomen.’ De staatssecretaris digitalisering heeft een algoritmeregister gemaakt. “Ik heb gezien hoe fnuikend het kan zijn als je onderdeel wordt van een beslissing die is gebaseerd op een algoritme dat vooringenomen was,” aldus de staatssecretaris.
In Ars Aequi juni 2022 staat een artikel van Cees Zweistra en Lonneke Poort: ‘Hoe de trias politica technologische ontwikkeling in haar macht krijgt: het belang van de samenwerking tussen recht, politiek en technologie.’ Citaat: “Een concreet voorbeeld hiervan is het aandeel van algoritmes in de toeslagenaffaire. … Door het gebruik van algoritmes is een ondoorgrondelijk systeem gecreëerd, waardoor de overheid in de praktijk niet meer in staat was om individuele gevallen ook echt individueel te behandelen. … In de toeslagenaffaire werd bijvoorbeeld gebruik gemaakt van een zelflerend algoritme om het risico op fraude in te schatten. Het algoritme maakte keuzes die geen voorafgaande instemming of goedkeuring van een ambtenaar van de Belastingdienst ontvingen en deze instemming door het zelflerende karakter van het algoritme ook niet konden krijgen. De mens was uit de ‘loop’ gehaald en zo nam technologie een rol over die …”
Het zou wel eens kunnen zijn dat de punten, genoemd in Licht Instrument Risicotaxatie Kindermishandeling (LIRIK), een rol spelen bij profilering in de jeugdbescherming: een risicofactor voor kindermishandeling is meer dan 4 kinderen in het gezin, eenoudergezin, ouders jonger dan 20 jaar bij de geboorte, zeer laag opleidingsniveau, geen Nederlands in het gezin, werkloos, arbeidsongeschikt. Het door de Gecertificeerde Instellingen genomen en uit het dossier gehouden ‘perspectiefbesluit’ of ‘opvoedbesluit’ zou door zo’n vooringenomen zelflerend algoritme genomen kunnen worden, waardoor uit huis geplaatste kinderen niet terug gaan naar hun gezin.
Wie gaat / laat onderzoeken of GI’s werken met een (vooringenomen) zelflerend algoritme?

Truus Barendse, Haarlem


Ga terug