Google har fjernet enkelte av sine AI-genererte helsesammendrag etter at en omfattende undersøkelse fra The Guardian avslørte at funksjonen kan gi feilaktig og potensielt farlig helseinformasjon til brukere.
Funksjonen, kjent som AI Overviews, er ment å gi raske, genererte oversikter over søkespørsmål ved bruk av kunstig intelligens. Disse oppsummeringene vises øverst i søkeresultatene, men en rekke tester viser at svarene noen ganger mangler viktig medisinsk kontekst og nøyaktighet.
Feilaktige råd kan være helsefarlige
I ett tilfelle ga Google feil informasjon om normale verdier for leverenzymer i blodprøver — informasjon som kan variere med alder, kjønn, etnisitet og andre faktorer. Manglende kontekst kan føre til at personer med alvorlig leversykdom feilaktig tror de har normale verdier og utsetter nødvendig medisinsk oppfølging.
I andre eksempler ble det rapportert alvorlig misvisende informasjon om kostholdsråd for pasienter med bukspyttkjertelkreft, der AI-sammendraget feilaktig anbefalte å unngå fet mat — noe eksperter advarer kan være skadelig for pasienter som trenger energi og næring. Som et resultat av Guardian-undersøkelsen har Google fjernet AI-sammendrag for enkelte søk som «normal range for liver blood tests» og tilsvarende spørsmål om leverfunksjon. Talsmenn for selskapet sier at de jobber med å forbedre modellen og tar grep der hvor det er nødvendig.
Google hevder at de fleste AI Overviews er korrekte og basert på anerkjente kilder, og at modeller testes mot interne medisinske vurderinger. Men kritikerne mener dette ikke er nok til å sikre konsekvent nøyaktig helseinformasjon.
Eksperter reagerer
Representanter for helseorganisasjoner og pasientinformasjonstjenester har uttrykt bekymring. De sier at selv om enkelte feil er fjernet, kan lignende misvisende svar fortsatt dukke opp under litt andre søk. Dette gjør det vanskelig for brukere å vite når de kan stole på AI-generert innhold.
Eksperter understreker også at feilinformasjon om helse kan føre til at folk ignorerer symptomer, utsetter behandling eller tar feil beslutninger om egen helse.
Større problem enn enkelttilfeller
Kritikere mener at Googles respons — å fjerne noen få resultater — ikke løser de underliggende problemene med hvordan AI-modeller håndterer komplekse og sensitive helsedata. Google fortsetter å vise AI Overviews for andre helseområder, inkludert kreft og psykisk helse, som eksperter tidligere har beskrevet som feilaktige eller farlige.
