Rechterlijke uitspraak van 5 februari jl. over het SyRI systeem heeft consequenties voor andere door overheid en bedrijven gehanteerde risicoprofileringssystemen

Gepubliceerd: 14 maart 2020

De rechtbank Den Haag heeft op 5 februari jl. uitspraak gedaan in de SyRI (Systeem Risico Indicatie) procedure. Een coalitie van 8 maatschappelijke partijen had ervoor gepleit om het gebruik van het SyRI risicoprofileringssysteem te stoppen, aangezien dit systeem onvoldoende waarborgen bevat om het recht op privacy van burgers te garanderen. Zie voor meer informatie over deze procedure het nieuwsbericht van 2 april 2018 en tevens de nieuwsberichten van 2 februari 2020 en 7 februari 2020.

De rechtbank heeft in haar uitspraak geoordeeld dat de wetgeving die de inzet van SyRI regelt in strijd is met hoger recht. De rechtbank heeft het oogmerk van SyRI – het opsporen en bestrijden van fraude – afgezet tegen de inbreuk die SyRI maakt op het privéleven van burgers en is tot de conclusie gekomen dat hier geen sprake is van een “fair balance” die het EVRM wel vergt om te kunnen spreken van een gerechtvaardigde inbreuk op de privacy. Het op grote schaal koppelen van persoonsgegevens – waaronder ook gegevens uit de zorg – wordt door de rechter in strijd geacht met het fundamentele recht op bescherming van de persoonlijke levenssfeer. De rechter oordeelde dat SyRI noch transparant, noch controleerbaar is. De inbreuk op het privéleven is voor burgers niet te voorzien en burgers kunnen zich vervolgens ook niet verweren. Dat geldt niet alleen voor de burgers die door SyRI als een verhoogd risico worden aangemerkt, maar voor iedereen van wie de gegevens door SyRI worden geanalyseerd.

 

De rechter heeft zich in de SyRI procedure uitgesproken over het SyRI risicoprofileringssysteem, maar er bestaan tal van dergelijke systemen, waarbij met behulp van algoritmes beslissingen over mensen worden genomen, die voor degenen die het treft niet inzichtelijk zijn, omdat onbekend is voor betrokkenen welke data zijn vergaard en gekoppeld en op basis van welke data beslissingen worden genomen.

 

In een op 6 maart jl. verschenen artikel van de NRC - https://www.nrc.nl/nieuws/2020/03/06/schimmige-algoritmes-bij-uwv-en-syri-zijn-topje-van-de-ijsberg-a3992851 - over de risico’s van profileringsystemen waarbij via algoritmes risicoprofielen van burgers worden opgesteld, wordt voor het volgende gepleit:

Alle overheden en bedrijven die algoritmische systemen gebruiken om mensen automatisch in categorieën in te delen, zouden goed naar de SyRI-uitspraak moeten kijken. Het systeem diende volgens de rechtbank weliswaar een legitiem doel: de bestrijding van fraude is „cruciaal” voor het draagvlak voor het stelsel van sociale zekerheid in Nederland. Maar de rechters vonden dat oncontroleerbaar is hoe de algoritmes van SyRI onder de motorkap werken. De kern van de uitspraak is dat er in dat geval te weinig waarborgen zijn voor burgers: zij kunnen niet uitzoeken of hun gegevens wel juist zijn verwerkt en weten niet waartegen ze precies bezwaar moeten maken”.

Het is nu aan de overheid om orde op zaken te stellen en werkwijzen die niet voldoen aan de door de rechter in de uitspraak geformuleerde voorwaarden stop te zetten. En het is aan de Autoriteit Persoonsgegevens om er op toe te zien dat dit ook daadwerkelijk gebeurt.