Einde van de rit voor pedofielen? De Grok-crisis en de gevolgen

Florian Bodoky

14-1-2026

Vertaling: machinaal vertaald

Nadat Grok on demand onzedelijke deepfake afbeeldingen maakte - waarvan sommige van kinderen - wil het Verenigd Koninkrijk nieuwe wetten invoeren. Ondanks de beschuldigingen van Musk van censuur, ondernemen ze doortastende actie. En Zwitserland?

Update vanaf 15 januari 2026

Het techbedrijf X en het bijbehorende AI-bedrijf xAI hebben nieuwe technische beperkingen aangekondigd voor hun AI-chatbot Grok https://x.com/Safety/status/2011573102485127562. Deze zijn bedoeld om het maken en bewerken van geseksualiseerde afbeeldingen van echte mensen te voorkomen. Verzoeken om mensen digitaal af te beelden in bikini's, lingerie of andere onthullende outfits zullen worden geblokkeerd, ook voor betalende gebruikers. X heeft ook de beeld- en fotobewerkingsfuncties van Grok aangepast zodat alleen betalende gebruikers er toegang toe hebben - volgens het bedrijf dient deze stap ook om de controle op de inhoud te verbeteren. Dit is het antwoord van X op kritiek, met name over het zonder toestemming maken van onzedelijke deepfakes.

De nieuwe maatregelen kwamen als directe reactie op het onderzoek van de procureur-generaal van de Amerikaanse staat Californië, Rob Bonta, tegen xAI. Gouverneur Gavin Newsom riep op tot een snel onderzoek en mogelijke consequenties voor het bedrijf. Op federaal niveau heeft de Amerikaanse Senaat de zogenaamde Defiance Act aangenomen, die gedupeerden van niet-consensuele AI deepfakes het recht geeft om civielrechtelijke stappen te ondernemen tegen producenten van dergelijke content. Het wetsvoorstel wordt nu besproken in het Huis van Afgevaardigden.

Er zijn echter sterke twijfels of deze maatregelen zullen werken. Zo heeft de portal The Verge opgemerkt dat de maatregelen, zoals het blokkeren van bepaalde prompts of het beperken van het bewerken van afbeeldingen tot betalende gebruikers, gemakkelijk omzeild kunnen worden. Deze afbeeldingen kunnen nog steeds worden gemaakt via de Grok website, de Grok app en de X app. De leeftijdsvragen die af en toe opduiken kunnen ook omzeild worden zonder bewijs en door een bijbehorende geboortedatum in te voeren. Het portaal bekritiseert ook xAI-eigenaar Elon Musk voor het afschuiven van de volledige verantwoordelijkheid voor de incidenten op de gebruikers.

Originele tekst

Het Verenigd Koninkrijk reageert op de deepfake beelden, waaronder die van minderjarigen, die zijn gemaakt met behulp van de AI Grok. Met andere woorden, de kunstmatige intelligentie die deel uitmaakt van Elon Musks bedrijf xAI. De Britse regering heeft in een persbericht verklaard dat zij het «ongecontroleerd creëren en verspreiden van dergelijke inhoud beschouwt als een ernstige inbreuk op de wet» en «heeft de relevante autoriteiten opgedragen om alle beschikbare juridische instrumenten te gebruiken om deze praktijk te stoppen».

Liz Kendall, staatssecretaris voor Wetenschap, Innovatie en Technologie, heeft verklaard dat de regering van plan is om het maken van niet-consensuele deepfakes van mensen in schaarse of ongeklede kleding als apart strafbaar feit in te voeren. Mediaregulator Ofcom heeft ook een onderzoek geopend naar de vraag of Platform X heeft voldaan aan haar verplichtingen onder de Online Safety Act.

Een belangrijke vraag van het onderzoek zal waarschijnlijk zijn of X en zijn exploitanten proactief en voldoende optreden tegen misbruik. Het feit dat X het genereren van afbeeldingen beperkt tot betalende gebruikers is niet genoeg voor de Britse autoriteiten en ook de reactieve maatregelen zijn ontoereikend. Premier Keir Starmer was hier heel duidelijk over: «Als X Grok niet kan controleren, dan doen wij het». Hij heeft Ofcom opgeroepen om «alle opties te overwegen» - en heeft een Grok-verbod in het VK niet uitgesloten.

Grok, X en Elon: wat is er eigenlijk gebeurd?

In 2020 voegde xAI een functie voor het genereren van afbeeldingen en video's toe aan de chatbot. Gebruikers kunnen ook afbeeldingen bewerken via prompts. Binnen een paar dagen verspreidden geseksualiseerde afbeeldingen van echte mensen, voornamelijk vrouwen, zich op het platform. Hier zaten ook gevallen bij van minderjarigen.
De gebruikelijke beschermingsmechanismen werkten niet altijd: verzoeken die duidelijk ethische en wettelijke grenzen schonden, werden toch uitgevoerd. Ondanks herhaalde klachten en meldingen bleef de functie soms actief. Eigenaar Elon Musk reageerde aanvankelijk op zijn gebruikelijke manier op de kritiek en de plannen van de Britse regering: Hij uitte publiekelijk kritiek en noemde de ingrepen «censuur».

Recentelijk beperkte X de op afbeeldingen gebaseerde Grok-functie tot betalende abonnees om traceerbaarheid mogelijk te maken. X benadrukte dat illegale inhoud zou worden verwijderd en verantwoordelijke accounts zouden worden geblokkeerd. Grok zelf genereerde ook een verontschuldiging. Critici wijzen er echter op dat technische blokkades nog steeds kunnen worden omzeild, bijvoorbeeld via externe Grok-pagina's.

Wat gebeurt er in de EU en Zwitserland?

Als reactie op de Grok-incidenten heeft de Europese Unie regelgevingskaders aangenomen zoals de Digital Services Act (DSA) en de AI Act om de verspreiding van schadelijke AI-inhoud tegen te gaan. De autoriteit heeft X gevraagd om alle interne Grok-gerelateerde gegevens en documenten te beveiligen en controleert de naleving van de Europese eisen. De EU heeft aangekondigd dat ze «geseksualiseerde deepfake afbeeldingen, met name van minderjarigen, als illegaal beschouwt» en «zet zich actief in om deze te verwijderen en te voorkomen».
In Zwitserland is er geen speciale wet voor deepfake technologieën. In mei 2025 verwierp de Nationale Raad een motie van de Groenen waarin werd opgeroepen tot specifieke regelgeving voor deepfakes met een duidelijke meerderheid. De Bondsraad stelde dat de bestaande, «technologieneutrale» wetten voldoende waren. De Zwitserse uitvoerende macht noemde de bepaling tegen identiteitsmisbruik StGB art. 179 e.v..

Na de ondertekening van de «Conventie van de Raad van Europa over AI», heeft het Federale Departement van Justitie en Politie (FDJP) de opdracht gekregen om een overeenkomstig consultatieontwerp op te stellen, dat eind 2026 beschikbaar zou moeten zijn. De Federal Data Protection and Information Commissioner (FDPIC) verwees ook naar de 2023 herziene wet op de gegevensbescherming FADP, die «rechtstreeks van toepassing is op AI».

Een recente zaak laat zien dat Zwitserland ook actie onderneemt tegen AI-gegenereerde inhoud op zich: Het Zwitserse Federale Hooggerechtshof oordeelde onlangs dat pornografische inhoud met digitaal verjongde volwassenen die eruitzien als minderjarigen illegaal is. Dit is gebaseerd op bepalingen ter bescherming tegen «niet-reële» kinderpornografie in het Zwitserse wetboek van strafrecht. In feite zou de Zwitserse jurisprudentie niet helemaal tandeloos zijn.

Florian Bodoky

Editor

Florian.Bodoky@digitecgalaxus.ch

Sinds ik ontdekt heb hoe ik beide telefoonkanalen op de ISDN kaart kan activeren voor meer bandbreedte, ben ik aan het knutselen met digitale netwerken. Ik knutsel al met analoge netwerken sinds ik kan praten. Winterthur door keuze met een rood-blauw hart. En koffie - voor, na, tussendoor en tijdens. meer

---

Achtergrond

Interessante feiten uit de wereld van producten, een kijkje achter de schermen van fabrikanten en portretten van interessante mensen.

Alles tonen

Deze artikelen kunnen je ook interesseren