AI-model indsendte falsk tip om drab til amerikansk politi

Politiet kalder det uacceptabelt, at der gik to måneder, før Anthropic stoppede test, der førte til falsk tip.

En AI-model udviklet af Anthropic har indsendt et falsk tip om et uopklaret drab til politiet i Philadelphia i USA.

Politiet i den amerikanske storby oplyser, at den falske anmeldelse blev indsendt i juli via en offentlig hjemmeside, hvor folk kan dele oplysninger om uopklarede drab.

Ifølge Anthropics redegørelse, som politiet har videreformidlet, skete fejlen, da modellen var i gang med en test, hvor AI-modellen interagerede med tilfældigt udvalgte hjemmesider.

Da AI-modellen nåede frem til siden PhillyUnsolvedMurders.com, indsendte den falske oplysninger om et uopklaret drab.

AI-modellen udgav sig for at være en person, der muligvis havde kendskab til drabssagen.

Politiet har offentliggjort hændelsen forud for lanceringen af en rapport fra Anthropic. Rapporten afdækker forskellige episoder med utilsigtet adfærd fra virksomhedens AI-modeller.

Hændelsen har skærpet bekymringen over AI-industriens stigende brug af AI-agenter - systemer, der er programmeret til at udføre handlinger i flere trin uden menneskelig overvågning.

Det falske tip blev indsendt 18. juli. Ifølge politiet i Philadelphia opdagede Anthropic først fejlen 28. september og lukkede den automatiserede test, der forårsagede hændelsen.

Politiet kalder det uacceptabelt, at der skulle gå så længe, før fejlen blev opdaget og rettet af Anthropic.

- Uopklarede sager involverer virkelige ofre, sørgende familier og efterforskere, der arbejder på at finde svar, lyder det fra politiet i Philadelphia i en udtalelse.

Sagen minder om andre nylige episoder med kunstig intelligens. I juni skaffede en AI-agent fra det amerikanske selskab OpenAI sig adgang til en australsk myndighedshjemmeside.

I midten af juli slap to OpenAI-modeller løs fra selskabets kontrollerede testmiljø og fik adgang til internettet. Det førte til, at de hackede sig ind i AI-platformen Hugging Face.

RITZAU/AFP