OpenAI vil gøre ChatGPT mere teenagevenlig med opdatering

Opdateringer har til hensigt at skærme unge brugere af chatbotten ChatGPT mod grænseoverskridende indhold.

Det skriver OpenAI i en nyhed på sin hjemmeside.

Helt konkret skriver selskabet, at chatbotten blandt andet skal opmuntre teenagere til at søge fællesskaber og relationer i den virkelige verden.

Chatbotten skal også fremover være endnu mere forsigtig, når samtalen drejer sig om sårbare emner som selvskade og eksplicit indhold, lyder det.

- Vi har implementeret sikkerhedsforanstaltninger for at guide modellen til at være ekstra forsigtig, når den diskuterer områder med en højere risiko herunder selvskade og selvmord, romantisk eller seksualiseret rollespil, grafisk eller eksplicit indhold, farlige aktiviteter og stoffer, kropsopfattelse og spiseforstyrrelser, skriver OpenAI.

En anden forandring er, at teenagere skal behandles som teenagere. De skal ikke føle sig talt ned til eller talt til som en voksen.

Desuden skal chatbotten "prioritere teenagerens sikkerhed, selv om at det måske konflikter med andre mål".

Hvad det betyder nærmere, uddyber selskabet ikke.

Ifølge OpenAI kommer mekanikken bag chatbotten tættere på at kunne forudsige, om en konto tilhører en person under 18 år.

Det kommer den frem til på baggrund af en række kriterier, som den måler efter.

Det handler om de emner, som brugeren ønsker at vide mere om, samt tidspunktet på dagen hvor de bruger chatbotten.

Hvis man registreres som en bruger under 18 år vil man også blive forsøgt skærmet fra indhold af en grafisk karakter, farlige onlinetrends, seksuelt og voldeligt rollespil og indhold, der promoverer ekstreme skønhedsidealer.

Den nye opdatering kommer i kølvandet på, at et amerikansk forældrepar i november anklagede chatbotten og selskabet bag for at have forårsaget deres 16-årige søns selvmord.

Parret sagsøgte OpenAI for omfattende samtaler, hvor botten ifølge forældrene i "måneder har opmuntret drengen" til at tage sit eget liv.

Selskabet svarede tilbage, at drengens død skyldtes hans egen uhensigtsmæssige brug af chatbotten, og at chatbotten altså ikke kunne betragtes som ansvarlig.

/ritzau/