AI-løsning tager tid fra patienter og øger presset på læger

Fejl i AI-baseret journalisering tvinger læger til at bruge timer på at rette fejl og oplære algoritmer.

Det viser ny forskning fra Københavns Universitet (KU).

Det er forsker i informationsvidenskab på KU Silja Vase, der står bag forskningen.

Gennem to år har hun undersøgt, hvordan talegenkendelse, hvis hensigt er at spare tid ved at transskribere lægernes diktater direkte ind i patientjournalen, bruges i hverdagen på et dansk hospital.

Hvilket hospital, det drejer sig om, bliver ikke nævnt i forskningsartiklen af hensyn til hospitalets personale. Men AI-baseret journalisering bliver benyttet i alle Danmarks regioner.

I sin forskning har hun konstateret, at talegenkendelsen i praksis fejloversætter så ofte, at lægerne ender med at bruge timer på at rette ord, sætningsendelser og fagtermer.

- AI er ikke plug and play. Hvis teknologien skal fungere med den nødvendige præcision, kræver det løbende vedligeholdelse og kvalitetssikring af data - og det arbejde ender hos sundhedspersonalet, som allerede har mange andre opgaver, udtaler Silja Vase.

Beregninger af dokumentationsarbejdet viser, at lægerne blev afbrudt omkring 602 gange om måneden på grund af rettelser. Det vil sige, at hver læge oplevede over 40 afbrydelser per vagt.

De ord, lægerne retter, bruges som træningsdata til systemet bag talegenkendelsens sprogmodel. Det betyder, at hospitalets personale tager tid fra patientbehandlingen for løbende at forbedre algoritmen bag sprogmodellen.

- Teknologien skal tjene medarbejderne, som ikke bør tvinges til at tilpasse sig teknologiens krav, hvilket ofte sker, uden at der bliver allokeret mere tid til sådanne opgaver. Det stiller krav til, hvordan systemerne helt grundlæggende designes, mener Silja Vase.

Problemet er ifølge forskeren, at medarbejderne ikke kan se, om deres rettelser reelt gør en forskel, da systemets statistiske data ikke er tilgængelige for dem.

I et enkelt tilfælde blev en afdelings rettelser slet ikke sendt videre til AI-leverandøren i et helt år på grund af en teknisk fejl, som ikke blev opdaget af nogen.

I forbindelse med det nye automatiserede journaliseringsarbejde følger der ifølge Silja Vase også nogle uforudsete, lavpraktiske arbejdsopgaver med.

- Tidligere var det lægesekretærer, der bestilte tider til røntgen og andre undersøgelser i forbindelse med transskriberingen af lægens notater. Når lægerne selv varetager journaliseringen, overgår disse opgaver imidlertid også til dem, siger hun.

Det betyder, at læger i nogle tilfælde har skullet printe journaler ud og skrive et kodesprog på dem, så en sekretær bagefter kunne sørge for, at der eksempelvis blev bestilt tid til røntgen.

Der er derfor ifølge Silja Vase behov for større gennemsigtighed og støtte, når sygehusvæsenet skal implementere AI-systemer, så man undgår lignende udfordringer i fremtiden.

- Det betyder også, at den økonomiske besparelse nogle gange ikke bliver så stor, som man regner med, fortæller Silja Vase.

/ritzau/