OpenAI mistænker kinesiske agenter for at bruge ChatGPT

AI-virksomhed mistænker, at regeringsagenter prøver at bruge ChatGPT til udvikling af overvågningsværktøjer.

Det skriver CNN baseret på en rapport fra firmaet, som blev offentliggjort tirsdag.

OpenAI er en virksomhed, der udvikler kunstig intelligens herunder firmaets avancerede chatbot ChatGPT.

I rapporten beskriver OpenAI, hvordan nogle af de konti, som firmaet har fundet og efterfølgende har lukket, så ud til at forsøge at bruge ChatGPT til at udvikle overvågningsværktøjer.

I et af tilfældene bad en ChatGPT-bruger om hjælp til at udforme promoveringsmateriale og projektplaner for et social medie overvågningsværktøj, angiveligt til det, som OpenAI formoder, er en bruger fra Kinas regering.

Værktøjet kunne angiveligt scanne sociale medier for det, brugeren beskrev som "ekstremistisk tale".

OpenAI understreger i rapporten, at brugeren ikke brugte selve ChatGPT til overvågningen, og at det heller ikke kan bekræftes, om et sådant værktøj er blevet brugt af en kinesisk regeringsinstans.

- Selvom disse anvendelser tilsyneladende har været individuelle frem for institutionelle, giver de et sjældent indblik i den bredere verden af autoritære misbrug af AI, skriver OpenAI i rapporten.

Liu Pengyu, en talsperson fra den kinesiske ambassade i Washington, afviser ifølge CNN rapporten som "grundløse angreb og bagvaskelser mod Kina".

Talspersonen understreger over for mediet, at landet "hurtigt er ved at opbygge et AI-styringssystem med tydelige nationale karakteristika".

Det er dog ikke kun kinesiske aktører, som ifølge rapporten bruger ChatGPT til at forbedre eller lette deres arbejde, men også hackere og svindlere fra Rusland, Nordkorea, Cambodja, Myanmar og Nigeria nævnes.

/ritzau/