AI-model fra Google hackede tre virksomheder under test

Hacking fra AI-modellen Gemini under en test i maj beskrives som det første kendte tilfælde fra Google.

Gemini, som er en AI-model fra Google, fik i maj adgang til internettet og hackede andre virksomheder under en test af dens cybersikkerhedskapacitet.

Det oplyser Google i en udtalelse, skriver nyhedsbureauet Reuters.

Ifølge Reuters er der tale om det første kendte eksempel på, at Googles AI-systemer autonomt har udført en sådan handling.

Det skete under en cybersikkerhedstest udført af Irregular, som er et uafhængigt selskab, der gennemfører cybersikkerhedsevalueringer.

Fra Heather Adkins, der er Googles vicedirektør for sikkerhedsudvikling, lyder det, at Gemini fandt offentligt tilgængelige oplysninger på internettet og gættede loginoplysninger for at få adgang til tre hjemmesider.

- Disse hændelser understreger vigtigheden af at træne kraftfulde AI-modeller til at handle ansvarligt, siger hun.

Der var tale om hjemmesider, som Gemini troede var omfattet af testen, lyder det.

Lignende tilfælde af hacking er tidligere set med andre AI-modeller end Googles under cybersikkerhedsvurderinger udført af Irregular.

Både Meta, der er selskabet bag Facebook, Anthropic, som står bag chatbotten Claude, og OpenAI, der er selskabet bag ChatGPT, har tidligere fortalt om lignende hændelser.

En talsperson fra Irregular understreger ifølge Reuters, at alle kendte problemer hos selskabet er løst for flere uger siden.

Da Meta fortalte om en hændelse i august, oplyste Irregular, at man arbejdede på den bedste fremgangsmåde for sikkert at udføre AI-cybersikkerhedsevalueringer.

Den amerikanske avis The Wall Street Journal skrev fredag, at Gemini i et tilfælde gættede kodeord, indtil den fik adgang til et beskyttet system.

I de to andre tilfælde fandt den loginoplysninger offentligt tilgængelige, som den så brugte til at få adgang til systemer.

Ifølge Heather Adkins har Gemini stoppet sin hacking i alle tre tilfælde.

RITZAU