Nieuwe software Apple moet kinderporno opsporen

Het bedrijf Apple heeft onlangs aangekondigd nieuwe software te gaan inzetten om kinderporno op Apple-apparaten te detecteren. Critici zijn echter bang dat de software zal worden gebruikt voor andere doeleinden.

Door Jessie van Meerkerk

Middels de nieuwe software wil de Tech-gigant de strijd aangaan tegen de verspreiding van kinderporno. Dit gebeurt enerzijds middels een speciaal algoritme dat afbeeldingen in de iCloud vergelijkt met een database met kinderpornografisch materiaal. Dit materiaal is verzameld in strafrechtelijke onderzoeken. Mochten de kenmerken van de afbeelding overeenkomen met die van een afbeelding uit de database, dan volgt er een handmatige controle door een medewerker van Apple. De gebruiker riskeert dan een blokkering van zijn account. Daarnaast zal de software seksueel getinte afbeeldingen die door kinderen worden ontvangen wazig maken. Ook kunnen de ouders een melding krijgen op het moment dat een kind van twaalf jaar of jonger een expliciete afbeelding wil bekijken of verzenden.

Kritiek

Critici vrezen echter dat de software in verkeerde handen zal vallen. Zij voorzien vooral problemen in de druk die autoritaire overheden zullen uitoefenen op Apple om de software te gebruiken voor andere doeleinden. Ook is men bang dat de software een inbreuk maakt op de privacy van Applegebruikers. Het kan immers voorkomen dat het algoritme een melding van expliciete inhoud aangeeft, terwijl dit niet zo is. Een medewerker van Apple dient dan echter wel de foto’s te controleren. Daarnaast wordt er een breuk gemaakt in de versleuteling van telefoons. Hackers zouden hier ook gebruik van kunnen maken.

Apple heeft inmiddels gereageerd op de kritiek en heeft aangegeven dat het systeem onduidelijk is geïntroduceerd. Zo zal er pas een handmatige controle plaatsvinden als het systeem ruim dertig afbeeldingen heeft die overeenkomen met de database. De medewerkers kunnen dan alleen de betreffende foto’s zien. Mocht er inderdaad sprake zijn van kinderpornografisch materiaal, dan worden de autoriteiten ingeschakeld.

AVG

De software zal vooralsnog alleen worden geïntroduceerd in Amerika. Vanwege de Algemene Verordening Persoonsgegevens (AVG) lijkt de invoering in Europa onbegonnen werk. Apple is immers een private organisatie die een opsporingstaak van de overheid deels wil overnemen. Hier bestaat nog geen wetgeving voor, waardoor dit tot op heden moeilijk gereguleerd kan worden. Desalniettemin zou Apple in theorie wel de software kunnen installeren op apparaten van Europese gebruikers. Toezichthouders controleren immers pas achteraf en niet vooraf op eventuele wetsinbreuken.