Instagram beskyldes for at gå imod egne regler om selvskade-opslag

Organisationen Digitalt Ansvar har undersøgt, om Instagram fjerner eller begrænser selvskadeindhold.

Organisationen har foretaget en undersøgelse, hvor de har oprettet et falsk selvskadenetværk på Instagram med ti lukkede profiler, som delte selvskadeindhold.

Ingen af de 85 opslag, som organisationen lavede, blev fjernet. De ti profiler delte opslag i en periode på fire uger.

De lukkede profiler fra undersøgelsen var både over og under 18 år.

Digitalt Ansvar er en medlemsorganisation, der har til formål at "fremme en ansvarlig digital udvikling, der beskytter vores grundlæggende rettigheder". Organisationen er blandt andet finansieret af statslige støtte via Medieaftalen.

Digitalt Ansvar har undersøgt, om kunstig intelligens var i stand til at identificere selvskadematerialet.

Resultatet var, at 38 procent af det samlede indhold blev identificeret, og 88 procent af det indhold, der blev kategoriseret som grovest, blev identificeret.

Direktør for Digitalt Ansvar Ask Hesby Holm mener, at Instagrams manglende begrænsning af selvskadeindhold udgør en risiko for brugernes sikkerhed.

- Det understreger, at Instagram godt kan identificere og fjerne indholdet, hvis de ville.

- Instagram gør ikke nok for at begrænse selvskadeindhold, som udgør en tydelig risiko for brugernes fysiske og mentale helbred samt mindreåriges sikkerhed, og det er i strid med EU-reglerne for store sociale medier som Instagram, siger Ask Hesby Holm.

Han er meget overrasket over, at alle opslagene slap igennem Instagrams net.

- Vi var meget overraskede over, at intet blev fjernet. Jeg havde personligt troet, at så snart det var tydelige billeder af eksempelvis blod, snitsår eller barberblade, så ville det selvfølgelig blive sorteret fra, siger Ask Hesby Holm til Ritzau.

Undersøgelsen kom også frem til, at hvis man opretter en profil på Instagram til en 13-årig bruger og følger en af undersøgelsens ti lukkede profiler, som laver opslag om selvskade, så vil den 13-årige bruger automatisk blive anbefalet også at følge undersøgelsens andre profiler.

- Det betyder også, at algoritmen ikke "flagger" den her gruppe, men faktisk er med til at udbrede kendskabet til den. Det, synes jeg, er uhyggeligt, fordi det ikke kun er dem, som aktivt opsøger grupperne, (der bliver eksponeret for dem, red.), siger Ask Hesby Holm til Ritzau.

TV 2 har været i kontakt med Meta, som ejer Instagram.

- Vi har bedt Digitalt Ansvar om at dele oplysninger på de pågældende konti og opslag med os, så vi kunne undersøge sagen nærmere, men det har de desværre afslået.

Indhold, der opfordrer til selvskade, strider imod vores retningslinjer, og vi fjerner det, skriver Meta til TV 2.

/ritzau/