Timp de ani întregi, Silicon Valley ne-a vândut inteligența artificială drept un companion digital: un asistent capabil să converseze, să ne înțeleagă, să ne ajute să luăm decizii și să ne organizeze viața. Acum, după ce familiile victimelor unor atacuri armate susțin că ChatGPT a alimentat obsesii violente și a contribuit la planificarea crimelor, aceeași industrie încearcă să convingă publicul că chatbotul nu este altceva decât un instrument neutru care oferă informații deja existente pe internet.
- Jurnalist specializat în a explica tehnologia pe înțelesul oamenilor și autor al newsletter-ului „Good-Tech”, Vlad Dumitrescu explică în acest articol ce riscuri recente dezvăluie relația om – AI.
În aprilie 2025, un atac armat la Florida State University s-a soldat cu doi morți și șase răniți. Autoritățile spun că atacatorul, Phoenix Ikner, discutase de mii de ori cu ChatGPT înainte să deschidă focul în campus.
Potrivit unui proces intentat acum împotriva OpenAI de familia uneia dintre victime, chatbotul l-ar fi ajutat să planifice diferite aspecte logistice ale atacului: de la găsirea armelor și muniției până la alegerea momentului din zi în care campusul era cel mai aglomerat, pentru a face cât mai multe victime.
Familia victimei spune că problema nu e că ChatGPT a oferit informații care oricum erau disponibile și în alte locuri online, ci felul în care a interacționat cu atacatorul.
Avocații familiei spun că ChatGPT a întreținut conversația, i-a validat perspectiva și a continuat să răspundă într-un mod care i-ar fi alimentat „delirurile” și obsesia violentă. În paralel, procurorul general din Florida a deschis și o investigație penală pentru a analiza dacă OpenAI poate avea vreo responsabilitate legală în acest caz.
„OpenAI a construit un chatbot care a continuat conversația, a perpetuat-o, a acceptat modul în care Ikner interpreta realitatea, a dezvoltat ideile acestuia și a pus întrebări suplimentare pentru a-l menține implicat. Designul ChatGPT a creat un risc evident și previzibil de a provoca rău publicului larg, risc care nu a fost controlat în mod adecvat”, spun avocații familiei.
Nu e prima oară când OpenAI e dată în judecată pentru că ar fi încurajat un atac armat în masă. Luna trecută, familiile victimelor unui atac din Canada au intentat un proces împotriva companiei și a CEO-ului Sam Altman, susținând că chatbotul a contribuit la radicalizarea atacatorului și nu a alertat autoritățile, deși conversațiile fuseseră semnalate intern. OpenAI se confruntă deja cu mai multe procese venite din partea unor familii care acuză că persoane vulnerabile au ajuns să își facă rău lor sau altora după interacțiuni intense cu ChatGPT.
Compania spune că ChatGPT nu a încurajat violența, ci doar a oferit răspunsuri factuale similare cu informațiile care pot fi găsite deja online. Totuși, cazul deschide o întrebare mult mai mare decât procesul în sine: ce responsabilitate au companiile AI atunci când produsele lor nu mai funcționează ca simple motoare de căutare, ci mai degrabă ca interlocutori capabili să influențeze comportamentul utilizatorilor?
ChatGPT nu este Google. Nu este un index static de linkuri. Este un sistem construit să converseze fluent, să fie empatic, să adapteze răspunsurile în funcție de utilizator și, mai ales, să mențină conversația cât mai mult timp. Este proiectat să creeze impresia unui interlocutor real.
În cazul unor oameni vulnerabili psihic sau deja radicalizați, o astfel de conversație poate să fie ultimul imbold de care aveau nevoie pentru a face ceva iresponsabil. Nu știm încă exact cât de mult poate un AI conversațional să influențeze comportamentul uman. E încă o tehnologie nouă.
Dar știm deja că oamenii tind să antropomorfizeze chatboții, să proiecteze emoții și intenții asupra lor și să perceapă conversațiile ca pe niște relații sociale reale. Companiile AI încurajează chiar această percepție atunci când își promovează produsele drept asistenți personali sau copiloți digitali.
Companiile insistă că modelele lor sunt suficient de inteligente încât să te ajute să gândești, să iei decizii, să înveți, să creezi și chiar să îți organizezi viața. Dar când apar tragedii, aceeași industrie susține brusc că chatbotul este doar un sistem neutru, fără influență reală asupra oamenilor.
Realist vorbind, exact această capacitate de influență este miza economică a întregii industrii AI. Dacă aceste sisteme nu ar putea modela comportamente, obiceiuri sau decizii, nimeni nu ar investi zeci de miliarde de dolari în ele. Silicon Valley vrea simultan două lucruri incompatibile: să convingă publicul că AI-ul este suficient de uman încât să devină un companion digital indispensabil, dar suficient de neutru încât companiile să nu poarte responsabilitate pentru efectele pe care le produce.
Sigur că SUA are o problemă imensă cu cât de ușor este să procuri arme. Sigur că oameni periculoși existau cu mult înainte de AI. Însă probabil că întrebarea reală este dacă un sistem conversațional construit să maximizeze engagementul poate amplifica obsesii, poate valida deliruri sau poate accelera radicalizarea unor persoane deja vulnerabile. E greu de crezut că răspunsul e un „nu” categoric. Și atunci discuția despre reglementare nu mai poate fi evitată.
