Ministre anklager Grok for at skabe ulovligt seksuelt indhold

Franske ministre kalder indhold skabt af Grok for "åbenlyst ulovligt". Sag er overdraget til anklagere.

Det oplyser ministrene i en pressemeddelelse fredag ifølge nyhedsbureauet Reuters.

De kalder det indhold, som Grok har genereret, "seksuelt og sexistisk" og "åbenlyst ulovligt".

Grok er en sprogmodel skabt af selskabet xAI, der er grundlagt af og har rigmanden Elon Musk som direktør.

Tidligere fredag skrev Grok på X, at der havde været "isolerede sager" på X, hvor brugere havde bedt Grok om og modtaget AI-billeder af "mindreårige i minimal påklædning".

Ifølge Grok er der et arbejde i gang for at forbedre de "beskyttelsesforanstaltninger", der allerede er.

- Vi har identificeret huller i beskyttelsesforanstaltningerne og er hastigt ved at lukke dem, skriver Grok-kontoen på X - tilsyneladende på vegne af xAI.

- CSAM (Child Sexual Abuse Material eller seksuelt overgrebsmateriale med børn, red.) er ulovligt og forbudt, fortsætter Grok.

De franske ministre har også indrapporteret det indhold, som Grok har skabt, til medietilsynsmyndigheden Arcom.

Den skal undersøge, om xAI har levet op til sine forpligtelser under EU-lovgivning, specifikt Digital Services Act.

De ministre, der har anmeldt Grok, er finansminister Roland Lescure, digitaliseringsminister Anne Le Hénanff og ligestillingsminister Aurore Bergé.

På X har brugere det seneste stykke tid - og især i løbet af de seneste dage - fået Grok til at skabe AI-genererede billeder af folk med ganske lidt tøj på.

Elon Musk har også bidraget til trenden og fik 1. januar Grok til at skabe et billede af sig selv. Her står Musk foran en sort dør iført mørkeblå bikini i sportssko.

- Perfekt, skrev Musk på X om det AI-genererede bikinibillede af sig selv.

/ritzau/