TikTok gaat AI-content waarschuwingslabel geven

TikTok gaat afbeeldingen en video’s die gemaakt zijn met kunstmatige intelligentie (AI) een waarschuwingslabel geven. Dit werd al gedaan bij content gemaakt binnen de app, maar dit gaat nu dus ook gebeuren voor content gegenereerd door AI buiten de app. Daarnaast komt er een Europese wet aan waarin duidelijke regels worden gegeven voor kunstmatige intelligentie. Dit zal ook grote gevolgen hebben voor opsporingsdiensten.

TikTok gaat afbeeldingen en video’s gemaakt met kunstmatige intelligentie labelen. De gedachte hierachter is om zo de verspreiding van misinformatie op het platform tegen te gaan.  Inhoud die gegenereerd is door AI door middel van tools in de TikTok-app werd al langer van een waarschuwingslabel voorzien. De nieuwe stap richt zich dus ook op video’s en afbeeldingen die buiten TikTok zijn gegenereerd en vervolgens worden geüpload.

TikTok maakt gebruik van een technologie die onder meer ontwikkeld is door Adobe en Microsoft. Middels die technologie geeft TikTok de AI-beelden een watermerk.

Meta, het moederbedrijf van Facebook en Instagram, meldde eerder dit jaar ook bezig te zijn met het labelen van AI-beelden. Daarnaast heeft Google vorig jaar gezegd dat er binnenkort AI-labels op YouTube en andere Google-platformen te zien zullen zijn.

Opsporingsdiensten

Er komt een Europese wet aan waarin duidelijke regels worden gegeven voor kunstmatige intelligentie. De wet bepaalt wat verboden is en welke toepassingen van kunstmatige intelligentie wel zijn toegestaan. Dit zal grote gevolgen hebben voor AI in Europa. Zo wordt ervoor gezorgd dat systemen van bedrijven niet uit de bocht vliegen en dat het gebruik ervan door opsporingsdiensten aan regels gebonden is.

Het wordt onder andere verboden om ongericht data van gezichten te verzamelen van internet of beelden van beveiligingscamera’s om zo een gezichtsherkenningsdatabase te bouwen. Daarnaast mag AI niet worden gebruikt voor ‘predictive policing’ het op basis van data een voorspelling doen over waar en door wie een misdaad gepleegd zal worden.

Toch zijn er wel drie uitzonderingen gemaakt waarin opsporingsdiensten onder voorwaarden gebruik mogen maken van gezichtsherkenning: als het leven van een slachtoffer in gevaar is (bijvoorbeeld in geval van ontvoering), bij directe dreiging (bijvoorbeeld een aanslag) en bij bepaalde misdaden waarbij al een verdachte in beeld is. Het gaat dan onder meer om terrorisme, mensenhandel en seksuele uitbuiting. Indien de opsporingsdiensten tot gezichtsherkenning overgaan zal er aan voorwaarden voldaan moeten zijn. Er zal toestemming van een rechter nodig zijn, er moet een mensenrechtentoets plaatsvinden en er mag enkel worden gezocht naar een specifiek persoon.