KI kan gi farlige helseråd – forskere ber folk være på vakt

Bruker du kunstig intelligens til å sjekke symptomer eller få medisinske råd? Da bør du være forsiktig. En ny internasjonal studie publisert i det anerkjente tidsskriftet BMJ Open viser at flere av de mest brukte KI-chatbotene ofte gir mangelfulle eller direkte feilaktige svar på spørsmål om helse og ernæring.

Forskerne testet fem ledende språkmodeller med 250 spørsmål om kosthold og helse. Resultatet var nedslående: Nær halvparten av svarene hadde svakheter som kunne føre brukere på villspor, enten ved å utelate viktig informasjon, gi misvisende råd eller presentere usikre påstander som om de var fakta.

En dansk ekspert som har vurdert funnene, omtaler resultatene som «verre enn jeg hadde fryktet», ifølge forskning.no.

Manglet dokumentasjon

Et av hovedfunnene i BMJ Open-studien er at chatbotene ofte unnlot å vise til pålitelige vitenskapelige kilder. I flere tilfeller ble det oppgitt referanser som var unøyaktige eller vanskelige å verifisere, noe som gjør det krevende for brukerne å kontrollere informasjonen de får.

Forskerne mener dette er spesielt problematisk når temaet er helse, fordi brukere kan ta viktige beslutninger basert på svar som fremstår overbevisende, men som ikke nødvendigvis er korrekte.

Ingen erstatning for lege

Studien betyr ikke at kunstig intelligens er ubrukelig. KI kan være et nyttig verktøy for å forklare medisinske begreper, oppsummere forskning eller gi generell informasjon. Men forskerne advarer mot å bruke slike tjenester som grunnlag for diagnostisering eller behandlingsvalg.

Ved alvorlige symptomer eller usikkerhet om egen helse er anbefalingen fortsatt den samme: Ta kontakt med lege eller annet kvalifisert helsepersonell.

Den nye BMJ Open-studien er enda en påminnelse om at kunstig intelligens kan gi svar med stor selvsikkerhet – selv når svaret er feil eller mangelfullt. Og når det gjelder helse, kan konsekvensene av feilinformasjon bli alvorlige.