OpenAI's topchef taler i næste uge til FN's Sikkerhedsråd

Sam Altman vil under FN's Generalforsamling komme med orientering i tid præget af bekymring for AI-risici.

Teknologigiganten OpenAI's administrerende direktør, Sam Altman, vil i næste uge orientere FN's Sikkerhedsråd under den årlige samling af verdensledere i forbindelse med FN's Generalforsamling.

Det oplyser OpenAI, der står bag sprogmodellen ChatGPT, skriver nyhedsbureauet AFP.

Til nyhedsbureauet Reuters siger en talsperson for OpenAI, at Altman i sine udtalelser ventes at lægge vægt på tiltag i selskabet, der skal "sikre at AI er sikkert og kommer mennesker over hele verden til gode".

- Samt behovet for international koordinering og fælles sikkerhedsstandarder.

Mødet arrangeres af Frankrig, som har det roterende formandskab for det 15 medlemmer store råd.

Det finder sted i en tid, hvor flere fremtrædende aktører i branchen har sagt, at en opbremsning i udviklingen af kunstig intelligens kan være nødvendig af hensyn til sikkerheden.

FN's generalsekretær, Antonio Guterres, opfordrede onsdag til en koordineret international handling for at håndtere risiciene ved kunstig intelligens.

- National handling er afgørende, men global koordinering er også uundværlig, sagde Guterres til journalister.

Bekymringen for sikkerheden ved kunstig intelligens er de seneste uger taget til, hvor ansatte hos store AI-udviklere har sagt op på grund af bekymringer om de farer, teknologien udgør.

Dario Amodei, som er topchef i den amerikanske teknologivirksomhed Anthropic, der udgør en konkurrent til OpenAI og står bag sprogmodellen Claude, har i et essay opfordret til forsigtighed.

- Vi må sænke tempoet, hvormed vi forbedrer AI-modellernes kapaciteter, skrev han.

Ifølge Reuters drøftede FN's Sikkerhedsråd for første gang risiciene ved kunstig intelligens i 2023.

Dengang lød det fra Kina, at teknologien ikke måtte blive en "løbsk hest", mens USA advarede mod at bruge den til at censurere eller undertrykke mennesker.

RITZAU