‘Wet’ voor de toekomst: nattevingerwerk

Het komt steeds dichterbij: de toekomst. Vliegende auto’s, robotschoonmakers, geautomatiseerde keukens en, misschien minder aannemelijk maar een man mag dromen: een YouTube-app die we kunnen sluiten terwijl de muziek gewoon blijft afspelen. Het bewijs hiervan is de achterstand van de regulering en de angst hieromtrent. De toekomst sprint de wet voorbij. We lopen op juridisch vlak achter de feiten aan en dat is enerzijds natuurlijk logisch: je kunt immers niet iets reguleren dat nog niet bestaat. Anderzijds heeft Facebook vorige week doodleuk toegegeven middels kunstmatige intelligentie (AI) verkregen gegevens te hebben gedeeld. Repercussies? Zeg sorry, wie dan ook?

Wie gaan we hiervoor de schuld geven? Geen Burgerlijk Wetboek of Wetboek van Strafrecht en Strafvordering die ons daarin de weg wijst. Het makkelijkste antwoord zou zijn: ‘Uh duh, Facebook natuurlijk!’ Wellicht, maar helaas zit het alleen in die zaak wat makkelijker in elkaar dan de rest van de zaken. Ik voorspel namelijk veel vingerwijs-taferelen. De consument wijst naar het bedrijf, het bedrijf wijst naar de afdeling/het departement en zij naar de AI of andere technologie die de fout en/of datalek veroorzaakte. Een ander probleem kan zich voordoen op het gebied van verwachtingen met betrekking tot diensten en services. Als ik een overeenkomst aanga, dan verwacht ik dat ik iemand kan aanwijzen als er tekort wordt geschoten in de nakoming. Als die persoon echter een AI is, wordt het nog een heuse zoektocht.

Casus
Waarom niet de ontwerpers van de AI hiervoor aansprakelijk stellen? Hen treft in veel AI-cases geen blaam. De meerwaarde van een AI ligt namelijk in het wonder van op basis van bulken aan data en patronen, conclusies te kunnen trekken en taken uit te kunnen voeren die de maker voorbij schieten: een AI kan en doet meer, mede ook doordat het geen rekening houdt en niet ingeperkt wordt door de restricties van de wet aangaande de taak waar de AI voor wordt ingezet. Het scenario is aannemelijk dat een stel knappe koppen op Silicon Valley een AI in elkaar knutselen voor, laten we zeggen, het volgen van financieel nieuws. Dit doen ze om beleggers te helpen met voorspellingen en ze brengen het op de markt. Naast de doelgroep krijgen ze ook de aandacht van de IT-afdeling van een innovatieve hobo chique groentewinkel. Ze gebruiken de AI zodat ze de goedkoopste aanbieders in beeld krijgen. De AI ontwikkelt zich door en ‘groeit’ zover door dat er sprake is van concurrentievervalsing. De AI-loze concurrenten dagvaarden de pioniers. Wie klaag je aan, wie is de schuldige?

Er zijn Europese plannen om AI juridische persoonlijkheid te geven op basis van de capaciteit en autonomie van de AI. Zo kan er een wet omheen worden geschetst en consequenties worden gebonden aan het maken van AI en de gevolgen daarvan. Tot hoever reikt echter de verantwoordelijkheid van een AI ontwerper? En verder nog: zijn de knappe koppen van Silicon Valley dan nog wel bereid om de technologische vooruitgang te gebruiken om ons leven en dat van bedrijven makkelijker te maken? Het toekennen van juridische persoonlijkheid is contra-intuïtief en ronduit reductio ad absurdum. Demping op de vooruitgang en vertraging van het bereiken van de toekomst. Ontwerpers denken twee keer na voordat ze hun genialiteit en creativiteit de vrije loop laten en moeten dan ook nog eens rekening houden met hoe bedrijven hun technologie gebruiken.

Ik opteer voor een ouderwetse aansprakelijkheid bij het bedrijf dat de AI toepast op haar markt of werkzaamheden, en in verregaande gevallen haar bestuurders. Een AI brengt voordelen mee, maar ook risico’s als het gaat om ontwikkeling tot een punt waarop de gebruikers en makers de beslissingen en conclusies van AI niet meer begrijpen. Met innovatieve ontwikkelingen zoals e-Court, de nieuwe PSD2 en de AVG, behoef ik geen hulp van een AI om te voorspellen dat we hier straks meer en meer over te horen krijgen tijdens politieke campagnes en bij wetsvoorstellen. Ik ben voorstander van het reguleren van de toekomst. Het dwarsbomen daarentegen, not so much. Ik kijk net zo uit naar de toekomst als dat ik uitkijk naar het vijfde seizoen van Black Mirror.