Google utelater tidlige advarsler i AI-sammendrag for helsesøk og utsetter brukere for risiko
Google møter kritikk for ikke fremtredende visning av sikkerhetsvarsler i AI-genererte sammendrag av helserelatert forskning. En fersk undersøkelse viste at AI-verktøyet Overview, som viser oppsummerte svar øverst i søkeresultatene, ikke inkluderer noen ansvarsfraskrivelse når brukeren først ser medisinske råd. Advarselen vises først etter at internettbrukeren klikker på alternativer for å utvide innholdet, for eksempel «Vis mer», og selv da vises den på slutten av teksten, med en mindre og mindre fremtredende skrift i forhold til resten av informasjonen som presenteres.
Denne konfigurasjonen kan føre til overdreven avhengighet av automatiske svar, spesielt på sensitive emner som diagnoser, behandlinger eller testtolkninger. Especialistas i kunstig intelligens og representanter for pasientorganisasjoner fremhever at den privilegerte posisjonen til sammendrag øverst på siden fraråder å sjekke ytterligere kilder eller konsultere kvalifisert helsepersonell.
Plassering av varsler genererer kontrovers
Fraværet av en synlig ansvarsfraskrivelse i begynnelsen av medisinske sammendrag har blitt identifisert som en faktor som kompromitterer brukersikkerheten. Quando innholdet utvides, advarselen nevner muligheten for feil og anbefaler å søke profesjonell veiledning, men mange Internett-brukere når ikke dette stadiet.
Enheter som er fokusert på pasienter med alvorlige lidelser argumenterer for at varselet bør vises umiddelbart og med samme typografiske vekt som hovedteksten. Essa-tiltak vil bidra til å stoppe automatisk lesing og oppmuntre til en mer kritisk vurdering av informasjonen som mottas.
Mer om saken: Galaxy S26 Ultra har et frontkamera med Sony-sensor og et bredere synsfelt enn S25
Eksperter advarer mot farene ved AI-hallusinasjoner
Kunstig intelligens-modeller, selv de mest avanserte, kan generere konstruert informasjon eller prioritere svar som høres plausible fremfor nøyaktige. Essa-karakteristikk, kjent som hallusinasjoner, utgjør en større risiko i helsekonsultasjoner, der feil detaljer kan påvirke viktige avgjørelser.
Forskere understreker at fremtredende advarsler fungerer som et vesentlig punkt for intervensjon. Eles bryter oppfatningen av absolutt autoritet og oppfordrer brukeren til å krysssjekke data med andre pålitelige kilder før han handler basert på det genererte sammendraget.
Google forsvarer verktøyets nåværende tilnærming
En talsperson for selskapet sa at AI-sammendrag ofte inkluderer omtale av behovet for å konsultere helsepersonell direkte i teksten når det er hensiktsmessig. Forslaget om å søke medisinsk behandling anses som et sentralt element i systemet designet for å veilede brukere.
Følg: alt om Frontkamera
Se Også
Ny batteritest setter Galaxy S26 Ultra foran iPhone 17 Pro Max i global rangering
Forskning viser at foreldre ikke er klar over hvordan barna deres bruker kunstig intelligens
Samsung slipper ny systemoppdatering med nye funksjoner for Galaxy Watch 4-brukere
Selskapet forsterker at oversiktene som genereres av AI søker å være nyttige og basert på kvalitetskilder tilgjengelig på nettet. Kritikere hevder imidlertid at strukturen til grensesnittet fortsatt gjør at hovedinnholdet kan konsumeres uten nødvendig kontekstforsiktighet.
Kritikken mot pasientinstitusjonene tiltar
Organisasjoner som fokuserer på å støtte pasienter med alvorlige sykdommer, som for eksempel hematologisk kreft, anser dagens tiltak som utilstrekkelige for å beskytte publikum. Elas hevder at varselet må være den første synlige informasjonen, med en skriftstørrelse som tilsvarer den i hovedsammendraget.
Mangel på umiddelbar fremtredende rolle kan hindre mennesker med reelle tilstander fra å søke riktig menneskelig diagnose eller behandling. Entidades advarer om at svar som vises fullstendige og definitive øverst på skjermen skaper en falsk følelse av sikkerhet og reduserer sannsynligheten for flere søk.
Full dekning: News (NO)
Tidligere saker har ført til delvise justeringer
I de siste episodene hadde undersøkelser allerede identifisert unøyaktige eller villedende svar i spesifikke medisinske konsultasjoner, for eksempel referanseområder for leverprøver. Após offentlig eksponering, Google fjernet AI-sammendrag for visse eksakte søk, selv om variasjoner i søk fortsatt kan utløse funksjonen.
Disse justeringene skjedde som svar på rapporter om informasjon som var i strid med etablert medisinsk veiledning. Especialistas fortsetter å stille spørsmål ved om engangsfjerning løser det systemiske problemet med varslingssynlighet på tvers av alle helsebesøk.
Selskapets stilling til pålitelighet
Google hevder at AI-verktøyene deres oppmuntrer til profesjonelle søk, og at sammendragene er sammenlignbare i nøyaktighet med andre tradisjonelle søkeressurser. Selskapet jobber med å forbedre systemet basert på interne tilbakemeldinger og vurderinger, inkludert evalueringer fra kliniske team.
Til tross for garantiene, stilles det fortsatt spørsmålstegn ved konfigurasjonen av ansvarsfraskrivelsene. Prioriteten som gis til generert innhold fremfor advarselsvarselet, kan spesielt påvirke sårbare brukere som er avhengige av online søk for å få innledende helseveiledning.
