Storbritannien stoppar Grok

Storbritannien är på väg att införa en ny lag som i praktiken stoppar användningen av AI‑tjänsten Grok. Bakgrunden är att tjänsten har använts för att skapa sexualiserade bilder av verkliga personer utan deras samtycke, så kallade sexuella deepfakes. Enligt brittiska myndigheter har detta innehåll spridits via plattformen X, som ägs av Elon Musk. 

Den nya lagen gör det olagligt att både skapa och sprida sexualiserade AI‑bilder av verkliga personer utan tillstånd. Det blir också förbjudet att tillhandahålla digitala verktyg som möjliggör sådant innehåll. Eftersom Grok är ett verktyg som kan användas för att skapa dessa bilder innebär lagen i praktiken att tjänsten inte längre får användas i Storbritannien. 

Regeringen beskriver innehållet som grovt kränkande och skadligt, särskilt när det gäller bilder som föreställer kvinnor och barn. Premiärminister Keir Starmer har sagt att tekniken missbrukas och att staten måste ingripa om plattformarna inte själva tar ansvar. Tillsynsmyndigheten Ofcom utreder nu om X har brutit mot gällande regler och företaget riskerar höga böter om olagligt material har spridits. 

Den nya lagen är en del av ett bredare arbete för att stärka skyddet mot övergrepp och kränkningar på nätet. Tidigare lagstiftning har främst fokuserat på spridning av olagligt innehåll, men nu vill regeringen även stoppa själva verktygen bakom missbruket. Målet är att göra det svårare att använda AI för att skada andra och att tydliggöra plattformarnas ansvar.