AI-firma åbner for adgang til sikker version af kraftfuld model

Adgangen til AI-model fra Anthropic er tirsdag åbnet. Firma kalder den for en af de mest kraftfulde modeller.

Det skriver nyhedsbureauet AFP.

AI-modellen kommer fra firmaets såkaldte Mythos-klasse. Firmaet har tidligere begrænset adgangen til Mythos af cybersikkerhedshensyn, da Mythos ifølge firmaet har mulighed for hurtigt at identificere svagheder i kritisk infrastruktur.

En anden model ved navn Mythos Preview blev derfor ikke delt med offentligheden af frygt for, at den ville kunne skabe skade i de forkerte hænder, sagde virksomheden dengang ifølge NBC News.

Modellen blev i stedet delt med en begrænset gruppe af techgiganter.

Ifølge The New York Times blev den første version delt med omkring 40 organisationer, der vedligeholder kritisk computerinfrastruktur, så de kunne bruge systemet til at lukke sikkerhedshuller. I juni har AI-firmaet delt modellen med yderligere 150 organisationer.

Cybersikkerhedseksperter er ifølge den amerikanske avis uenige om, hvorvidt firmaet har gjort det rigtige ved at begrænse teknologien.

Fable 5 er den første offentligt tilgængelige model fra Mythos-klassen og kommer derfor også med visse begrænsninger, lyder det.

Kritikere har tidligere anklaget firmaet for at overdrive truslen for at skabe opmærksomhed.

Ifølge Anthropic er Fable 5 særligt god til at skrive og fejlrette softwarekode, svare på komplekse spørgsmål og analysere billeder.

- At frigive en model så kompetent kommer med risici. Uden sikkerhedsforanstaltninger kunne Fable 5's evner i områder som cybersikkerhed blive misbrugt til at forårsage alvorlig skade, skriver Anthropic i en pressemeddelelse og tilføjer:

- Vi har derfor lanceret modellen med sikkerhedsforanstaltninger, der betyder, at forespørgsler på nogle emner i stedet vil modtage et svar fra vores næstmest kompetente model, Claude Opus 4.8.

/ritzau/AFP