Onderzoek naar juridische aspecten van algoritmen die zelf besluiten nemen

Montaigne Centrum voor Rechtsstaat en Rechtspleging heeft in opdracht van het ministerie van Justitie en Veiligheid een onderzoek verricht naar de toekomstbestendigheid van de juridische kaders rondom algoritmen die zelf besluiten kunnen nemen. Het gaat daarbij om de vraag wat de maatschappelijke gevolgen zijn van deze algoritmen en hoe ze gereguleerd kunnen worden.

Software en andere technologische ontwikkelingen maken het nodig om vooruit te kijken. Zo wordt software steeds vaker gebruikt om besluiten te nemen. Het nemen van besluiten door algoritmen van dergelijke software brengt risico’s met zich mee. Deze besluiten hebben namelijk niet alleen virtuele gevolgen, maar kunnen ook fysieke effecten hebben. Het kabinet heeft daarom laten onderzoeken of publieke belangen en rechtsstatelijke waarden in dit verband nog voldoende gewaarborgd zijn.

Tijdens het onderzoek is specifiek gekeken of fundamentele rechten, zoals het recht op gelijke behandeling, het recht op bescherming van de persoonlijke levenssfeer en het recht op rechtsbescherming, niet in het geding komen door het gebruik van algoritmen.

Onderzoek

In het onderzoek zijn vijf casestudy’s uitgevoerd naar toepassing van algoritmische besluitvorming in verschillende sectoren of domeinen. Het gaat daarbij om de sociale zekerheid, de rechtspraak, zelfrijdende auto’s, peer to peer handel in energie en contentmoderatie.

Bij peer to peer handel in energie gaat het om consumenten die zelf energie opwekken en daarmee handel drijven. In deze handel brengen matching algoritmen vraag en aanbod bij elkaar. Bij contentmoderatie kan gedacht worden aan een uploadfilter, dat ervoor zorgt dat auteursrechtelijk beschermde informatie niet ongevraagd op een platform als Youtube terechtkomt.

Conclusie

Het verkennende onderzoek laat enige risico’s zien voor het gebruik van algoritmen die zelf besluiten kunnen nemen. Zo vormt het gebruik van niet-representatieve data een risico voor het recht op non-discriminatie en kan de onduidelijkheid over de verantwoordelijkheid van het genomen besluit door het algoritme een risico zijn voor de rechtsbescherming van de bevolking.

Het juridische kader is grotendeels domeinspecifiek. Zo speelt bij zelfrijdende auto’s het aansprakelijkheidsrecht een belangrijke rol, maar zal bij contentmoderatie ook rekening moeten worden gehouden met de vrijheid van meningsuiting. Het onderzoek concludeert dat algemene kaders, zoals de AVG, de Awb en het aansprakelijkheidsrecht, op hoofdlijnen voldoende in staat zijn om publieke waarden en belangen te borgen.

Volgens het onderzoek zal het kabinet tot slot toekomstige regelgeving zodanig moeten formuleren dat er ruimte blijft voor innovatie. Wet- en regelgeving mag niet te veel worden toegespitst op bestaande technologieën, maar zal ruimte moeten laten voor nieuwe ontwikkelingen.