Ensidig brug af chatbots kan resultere i videnskollaps

Selv den bedste sprogmodel giver knap en femtedel mindre varieret information end Google, viser studie.

Hvis man bruger sprogmodeller som ChatGPT til videnssøgning som et alternativ til traditionelle søgemaskiner, præsenteres man for færre nuancer og et smallere udvalg af kilder.

Det kan på længere sigt udløse det, forskere betegner som et "videnskollaps".

Sådan lyder det ifølge en pressemeddelelse fra Københavns Universitet (KU).

I et studie anført af Datalogisk Institut på KU har forskere testet 27 forskellige sprogmodeller i 155 forskellige emner om alt fra atomvåben til K-pop.

Ud fra svarene kan forskerne konkludere, at selv den sprogmodel med de mest mangfoldige svar giver mindst 18,7 procent mindre varieret information end en almindelig googlesøgning.

Den lave variation i sprogmodellerne skyldes ifølge forskerne, at modellerne komprimerer store mængder af tekst, som de er trænet på.

Ifølge professor ved Datalogisk Institut Isabelle Augenstein, der er en af forskerne bag studiet, er den manglende variation problematisk.

Selv om nyere sprogmodeller giver lidt mere varierede svar end de ældre, så frygter professoren, at man i fremtiden ender med et såkaldt "videnskollaps".

Det handler om, at sprogmodeller begynder at lære af deres egne outputs, som allerede er mindre varierede end menneskeskrevne tekster.

- Vi risikerer, at folk bliver eksponeret for færre forskellige perspektiver og et smallere udvalg af viden, lyder det fra Augenstein.

Hun forklarer, at sprogmodeller ikke giver brugeren mulighed for at stille sig kritisk over for de kilder, som der bruges til at generere svar.

- Du kan bede sprogmodellen om kildeangivelse, men det skulle være en bevidst handling fra brugerens side. Her giver en googlesøgning dig det automatisk, tilføjer Augenstein.

Hun forklarer, at når man søger på Google, vil de mindre betydningsfulde sider og kilder stadig komme frem som en del af søgeresultatet.

- I sprogmodeller bliver du bare præsenteret for det endelige svar, siger hun.

Isabelle Augenstein fraråder dog ikke brugen af AI til at få hurtigt overblik over et emne.

- Men hvis man skal have en dybere forståelse for et emne, vil jeg anbefale, at man opsøger og dykker ned i kilderne, lyder det fra professoren.

Studiet, som Augenstein baserer sin viden på, er udført af en række forskere fra Københavns Universitet, Aalborg Universitet, Stanford University, University of Colorado Boulder og University of Texas at Austin.

RITZAU