Modul în care chatboții și aplicațiile AI sunt folosite au ajuns să îi exaspereze pe medici

Inteligența artificială (AI) bulversează industrii întregi, de la software și drept până la divertisment și educație. Iar, așa cum învață medici precum dr. Cem Aksoy, ea ridică provocări speciale în medicină, pe măsură ce pacienții apelează la AI pentru sfaturi, relatează Reuters.

Aksoy, medic rezident într-un spital din Ankara, spune că un pacient de 18 ani și familia acestuia au intrat recent în panică după ce tânărul a fost diagnosticat cu o tumoare canceroasă la piciorul stâng. Au apelat la ChatGPT, chatbotul OpenAI. Acesta le-a spus că tânărul ar putea supraviețui doar cinci ani.

Era greșit: un chirurg plastician a îndepărtat cu succes tumora în luna iulie a anului trecut. „Practic, a fost vindecat după operație”, subliniază Aksoy.

Însă, câteva săptămâni mai târziu, pacientul l-a sunat pe medicul rezident, aproape în lacrimi. „Mi-a spus: «Am început să tușesc recent, iar ChatGPT mi-a spus că ar putea fi metastază la plămâni»”, povestește Aksoy. Pacientul a spus că trebuie să-și scrie testamentul. S-a dovedit că plămânii lui erau perfect sănătoși. Tușea pentru că începuse recent să fumeze.

„Când cineva este vulnerabil emoțional și lipsit de ghidare”, afirmă Aksoy, un chatbot AI „îl trage pur și simplu într-o pădure de cunoaștere, fără un context coerent”.

Un purtător de cuvânt al OpenAI a declarat că cele mai noi modele ale companiei au îmbunătățit semnificativ modul în care gestionează întrebările legate de sănătate. Compania a amintit de asemenea că ChatGPT nu este destinat să fie un substitut pentru îndrumarea unui profesionist din domeniul medical.

Experiența acestui tânăr pacient turc cu „înțelepciunea medicală” livrată de AI are loc într-un context în care tot mai mulți pacienți din întreaga lume apelează la chatboți și aplicații AI pentru sfaturi. Pe lângă marile chatboți precum ChatGPT, Gemini sau Claude, oamenii se îndreaptă către o avalanșă de aplicații medicale noi, destinate publicului larg și toate bazate pe AI.

O aplicație propune utilizatorilor să devină proprii lor medici

Un număr tot mai mare de aplicații mobile disponibile în magazinele virtuale ale Apple și Google susțin că folosesc inteligența artificială pentru a-i ajuta pe pacienți în problemele lor medicale – chiar dacă nu ar trebui să ofere diagnostice.

Conform ghidurilor Administrației pentru Medicamente și Alimente (FDA) din Statele Unite, aplicațiile medicale bazate pe AI nu necesită aprobare dacă „sunt destinate, în general, educării pacienților și nu sunt destinate utilizării în diagnosticarea bolilor sau a altor afecțiuni”.

Multe aplicații au avertismente că nu sunt instrumente de diagnostic și nu ar trebui folosite ca substitut pentru un medic. Unii dezvoltatori par însă să forțeze limitele.

O aplicație numită „Eureka Health: AI Doctor” se promova drept „însoțitorul tău personal complet pentru sănătate”. În App Store al Apple, aceasta menționa că este „DOAR ÎN SCOP INFORMATIV” și că „nu diagnostichează și nu tratează boli”.

Însă dezvoltatorul său, Sam Dot Co, promova aplicația și pe un site web, unde apărea, cu litere mari: „Devino propriul tău medic”. „Întreabă, diagnostichează, tratează”, afirma site-ul aplicația companiei. „AI-ul nostru nu doar diagnostichează – te conectează la rețete, analize de laborator și îngrijire medicală reală”.

Apple a declarat că, după ce a aflat despre Eureka Health de la Reuters, a eliminat aplicația din magazinul său de aplicații. Ghidurile Apple pentru dezvoltatori stipulează că aplicațiile medicale „trebuie să dezvăluie clar datele și metodologia care susțin afirmațiile de acuratețe”.

Dezvoltatorul Sam Dot nu a răspuns unei solicitări de comentarii. Însă site-ul web a fost modificat după ce Reuters a cerut informații. Site-ul nu mai menționează aplicația.

Aplicația care pretinde o acuratețe de peste 97% în diagnosticele medicale

În unele cazuri, aplicațiile au oferit sfaturi inexacte și potențial periculoase.

„AI Dermatologist: Skin Scanner” afirmă pe site-ul său că are peste 940.000 de utilizatori și că „are aceeași acuratețe ca un dermatolog profesionist”. Utilizatorii pot încărca fotografii cu alunițe și alte afecțiuni ale pielii, iar AI oferă o evaluare „instantanee” a riscului. „AI Dermatologist îți poate salva viața”, susține site-ul.

Dezvoltatorul său, compania lituaniană Acina, spune că aplicația folosește „o rețea neuronală proprietară” care caută modele pentru a face predicții. Acina afirmă că aceasta a fost antrenată pe imagini dermatologice pentru a recunoaște afecțiuni specifice ale pielii.

Aplicația susține că are „peste 97% acuratețe”. Dar a primit sute de recenzii de o stea în magazinele de aplicații, iar mulți utilizatori se plâng că este inexactă.

Daniel Thiberge, un analist de suport tehnic din New Jersey, a declarat pentru Reuters că a cumpărat aplicația pentru a interpreta șapte fotografii pe care le-a făcut unei mici excrescențe de pe braț. Șase rezultate au indicat un risc de „75%–95%” ca aceasta să fie canceroasă, potrivit acestuia. A mers apoi la un dermatolog. Medicul i-a spus că formațiunea nu părea problematică în niciun fel și că nu merita să se facă o biopsie.

„Dacă este complet, total greșit, care este scopul aplicației?”, a întrebat Thiberge în comentarii făcute pentru Reuters. În cel mai bun caz, este inutilă, spune el. „În cel mai rău caz, este periculoasă, pentru că s-ar putea să nu mai mergi la dermatolog”, mai afirmă bărbatul.

Într-o altă recenzie din Apple App Store, o utilizatoare a scris că, pentru a testa aplicația, a încărcat fotografii care arătau că avea melanom, o formă gravă de cancer de piele, care fusese deja diagnosticat și îndepărtat chirurgical.

Însă aplicația a raportat că afecțiunea era „benignă”, a reclamat femeia. Ea a declarat pentru Reuters că se teme că „unii oameni vor avea încredere în aplicație și vor amâna vizitele la medic”.

Reuters nu a confirmat independent experiențele utilizatorilor aplicației. Acina a spus că nu le poate verifica. Compania a declarat pentru Reuters că scopul AI Dermatologist „nu este de a oferi un diagnostic medical, ci de a furniza o analiză preliminară folosind tehnologia AI pentru a încuraja utilizatorii să consulte un profesionist”.

„Modelele noastre AI sunt construite pe baza literaturii din dermatologie și a unor seturi de date atent selecționate, alese și validate de dermatologi certificați”, a mai declarat compania, adăugând că „rezultatele fals pozitive pot apărea în orice sistem AI”.

Magazinele de aplicații se încurcă în explicații

Compania a mai spus că aplicația sa bazată pe AI a primit numeroase recenzii pozitive online, inclusiv mesaje „în care utilizatorii ne mulțumesc pentru că aplicația i-a determinat să verifice din timp o aluniță sau o leziune – în unele cazuri ducând la intervenții medicale la timp”.

Apple a declarat în schimb că a eliminat aplicația din App Store după ce a aflat despre ea de la Reuters și s-a sesizat în privința numeroaselor plângeri ale clienților.

Google a eliminat, de asemenea, AI Dermatologist din Google Play Store după ce Reuters a atras atenția asupra aplicației. „Google Play interzice aplicațiile care oferă funcționalități medicale înșelătoare sau dăunătoare și impune dovada reglementară sau un avertisment pentru aplicațiile care oferă funcționalități medicale”, a declarat un purtător de cuvânt.

Însă aplicația a revenit pe piață. Google a reinstaurat-o recent după ce Acina a revizuit-o. Google a spus că aplicațiile suspendate pot reveni dacă sunt actualizate cu o „versiune conformă”. Acina a declarat că a „clarificat mai explicit că aplicația nu este un dispozitiv medical”, că nu oferă diagnostice și că utilizatorii trebuie să consulte profesioniști din domeniul sănătății.

Apple a reinstaurat-o la rândul său pentru scurt timp, dar apoi a eliminat-o din nou săptămâna trecută. Potrivit Acina, Apple i-a transmis că, „în urma reevaluării”, a stabilit următoarele: „Aplicația furnizează date legate de medicină, măsurători legate de sănătate, diagnostice sau recomandări de tratament fără autorizația de reglementare corespunzătoare.” Acina a spus că face apel împotriva deciziei.

Dr. Rachel Draelos, medic, informatician și consultant în domeniul AI medical, spune că aplicațiile medicale bazate pe AI sunt îngrijorătoare, în special în dermatologie. „Sunt foarte îngrijorată de acest lucru, pentru că identificarea corectă a problemelor pielii este extrem de dificilă”, a declarat ea pentru Reuters.

Există mii de afecțiuni ale pielii și „nu există nicio șansă ca toate aceste aplicații să aibă un set de date care să le acopere pe toate”.