Atenție la ce căutați pe Google. Diagnostice false și cum a pus inteligența artificială în pericol viața pacienților

Răspunsurile generate de inteligența articifială folosită de Google privind analizele de sânge conțineau informații inexacte și false, arată o anchetă The Guardian. Compania a decis să elimine unele rezumate generate de IA.

Investigația jurnaliștilor britanici a arătat că oamenii erau puși în pericol din cauza informațiilor false și înșelătoare generate la căutările utilizatorilor.

Google a eliminat unele dintre rezumatele sale generate de inteligența artificială din domeniul sănătății. Compania a susținut că rezumatele care utilizează AI generativ pentru a furniza rezultate instantanee cu informații esențiale despre un subiect sau o întrebare, sunt „utile” și „fiabile”.

Însă unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, conțineau informații neadevărate.

„Periculos” și „alarmant”

Experții au constatat un caz, pe care l-au descris ca fiind „periculos” și „alarmant”, în care Google a furnizat informații false despre teste cruciale ale funcției hepatice, care ar putea determina persoanele cu boli hepatice grave să creadă în mod greșit că sunt sănătoase.

The Guardian a descoperit că o căutare care conținea termenii „care este intervalul normal pentru testele de sânge hepatice” a generat o mulțime de cifre, fără prea mult context și fără a ține cont de naționalitatea, sexul, etnia sau vârsta pacienților.

Experții spun că ceea ce AI Overviews de la Google considera normal poate fi, de fapt, la 180 de grade față de ceea ce este considerat normal în realitate.

Rezumatele puteau determina pacienții grav bolnavi să creadă în mod eronat că au rezultate normale la teste și să nu se mai prezinte la consultările medicale de control.

Ce spune Google

După anchetă, compania a eliminat AI Overviews pentru termenii de căutare „care este intervalul normal pentru testele de sânge ale ficatului” și „care este intervalul normal pentru testele funcționale ale ficatului”.

„Nu comentăm eliminările individuale din cadrul căutării. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul”, a declarat un purtător de cuvânt al Google.

Vanessa Hebditch, directoarea de comunicare și politici la British Liver Trust, o organizație caritabilă pentru sănătatea ficatului, a declarat: „Este o veste excelentă și suntem încântați să vedem eliminarea AI Overviews din Google în aceste cazuri. Cu toate acestea, dacă întrebarea este formulată într-un mod diferit, este posibil să se afișeze în continuare un AI Overview potențial înșelător și rămânem îngrijorați că alte informații medicale generate de AI pot fi inexacte și confuze.”

The Guardian a constatat că introducerea unor variații ușoare ale interogărilor originale în Google, cum ar fi „intervalul de referință lft (testul funcției hepatice, n.r.)” sau „intervalul de referință test lft”, a generat AI Overviews. Acest lucru a fost o mare îngrijorare, a spus Hebditch.

Ea spune că înțelegerea rezultatelor și a ceea ce trebuie făcut în continuare este complexă și implică mult mai mult decât compararea unor numere din buletinele de analiză.

„În plus, AI Overviews nu avertizează că cineva poate obține rezultate normale la aceste teste atunci când are o boală hepatică gravă și are nevoie de îngrijiri medicale suplimentare. Această falsă siguranță ar putea fi foarte dăunătoare”, a subliniat Hebditch.

Google mai analizează rezultate

Google, care deține o cotă de 91% din piața globală a motoarelor de căutare, a declarat că analizează noile exemple furnizate de The Guardian.

Milioane de adulți din întreaga lume se luptă deja să acceseze informații de sănătate de încredere, spune Sue Farrington, președinta Patient Information Forum, care promovează informații medicale bazate pe dovezi pentru pacienți, public și profesioniști din domeniul sănătății.

AI Overviews continuă să apară pentru alte exemple pe care The Guardian le-a semnalat inițial către Google. Acestea includ rezumate ale informațiilor despre cancer și sănătate mintală pe care experții le-au descris ca fiind „complet greșite” și „foarte periculoase”.

Întrebat de ce aceste AI Overviews nu au fost, de asemenea, eliminate, Google a răspuns că acestea conțin linkuri către surse cunoscute și de încredere și informează oamenii când este important să solicite sfatul unui expert.

sursă foto: Dreamstime.com