Er komt een EU-verbod op uitkleed-apps, ook wel nudifier apps, waarin mensen middels artificiële intelligentie (AI) worden uitgekleed. AI-systemen met bijvoorbeeld kinderporno of seksuele beelden van volwassenen die daar geen toestemming voor hebben gegeven, worden eveneens verboden. Dat heeft het Europarlement besloten. Ook komen er aanpassingen in de Europese AI-wet om die beter te kunnen toepassen.
De door het Parlement aangenomen maatregelen moeten bedrijven helpen bij het naleven van de AI-wet. Tegelijkertijd blijven de belangrijkste bepalingen en de risicogerichte aanpak van deze Europese wet overeind. De aangenomen bepalingen horen bij het zogenaamde digitale omnibus-pakket dat de Europarlementariërs dinsdag hebben aangenomen. Wel wordt de invoering van bepaalde delen uit de AI-wet uitgesteld om rechtsonzekerheid te voorkomen. Ook gaan er watermerken komen voor AI-producten.
Uitkleed-apps, waarin mensen met hulp van AI worden uitgekleed, worden in de EU verboden. Door AI gegenereerd materiaal met seksueel misbruik van kinderen wordt eveneens verboden. Tevens komt er een ban op het maken van beeld, video en geluid met geslachtsdelen of seksuele handelingen van volwassenen die daar geen toestemming voor hebben gegeven.
De bovengenoemde systemen mogen niet op de EU-markt gebracht worden, tenzij ze zijn voorzien van adequate technische waarborgen om het genereren van dergelijk materiaal te voorkomen. Het verbod geldt ook voor mensen die zulke systemen voor dit doel gebruiken. Bedrijven hebben tot 2 december de tijd om hun systemen op de AI-wet aan te passen.
Daarnaast komen er meer aanpassingen in de AI-wet. Zo komt er een betere definitie voor wat als ‘veiligheidscomponent’ wordt gezien. Producten met AI-functies die alleen gebruikers helpen of hun prestaties beter maken, worden niet automatisch onderworpen aan verplichtingen voor systemen met een hoog risico. Voorwaarde is dat hun uitval of storing geen gezondheids- of veiligheidsrisico's met zich meebrengt.
In de wet komt straks ook de mogelijkheid om persoonsgegevens te verwerken. Dit gebeurt straks alleen als het strikt noodzakelijk is om vertekeningen op te sporen en te corrigeren, met passende waarborgen, in zowel AI-systemen met als zonder hoog risico. Bestaande uitzonderingen van bepaalde regels voor het Midden en Kleinbedrijf (MKB) worden uitgebreid naar grotere concerns. Het gaat om de zogenaamde kleine mid-cap bedrijven.
Europarlementariër Kim van Sparrentak (Progressief Nederland) is kritisch over de wijzigingen in de AI-wet. Liever had zij gezien dat de wet sneller was uitgevoerd. ‘Zeker gezien de snelle ontwikkeling van nieuwe modellen. Helaas is de Europese Commissie gezwicht voor de druk van de belangrijkste tech-lobbyist, Donald Trump.’ Het verbod op nudifier apps is mede het werk van de Groenen in het Parlement. ‘Ik ben ontzettend trots dat we ervoor hebben gezorgd dat AI-uitkleedapps tegen het einde van dit jaar van de Europese markt worden verbannen.’