INTERVIU „Există o piață uriașă, în valoare de miliarde de euro”. Reclamele online sunt cel mai bun instrument de influență politică. AI-ul schimbă jocul

Telefoanele și aplicațiile produc permanent informații despre noi

Marek Tuszynski lucrează de aproximativ trei decenii la intersecția dintre tehnologie, politică și felul în care informația ne schimbă comportamentul. Este unul dintre oamenii care urmăresc felul în care datele personale au devenit o marfă și, mai nou, o armă politică.

Polonez stabilit în Germania, Tuszynski este cofondator al Tactical Tech, organizație înființată în 2003 care studiază modul în care tehnologia și datele transformă societatea. 

O parte importantă a muncii sale a fost dedicată a ceea ce el numește „societatea cuantificată”, adică o lume în care telefoanele, platformele online, aplicațiile și serviciile digitale produc permanent informații despre comportamentul nostru. Prin proiecte precum „Nervous Systems: Quantified Life and the Social Question” și „The Glass Room”, Tuszynski și colegii săi au încercat să facă vizibile mecanismele din spatele acestei economii a datelor și să arate cum informațiile colectate despre oameni pot fi folosite pentru a le înțelege, clasifica și influența comportamentul.

De altfel, Tactical Tech a urmărit în special ceea ce a numit „industria influenței”, adică ecosistemul de companii și instrumente care folosesc tehnici dezvoltate inițial pentru publicitate comercială pentru a influența opinii și comportamente politice. Organizația a documentat astfel de practici în zeci de țări, inclusiv microtargetarea și folosirea datelor personale în campanii electorale.

Mai recent, Tuszynski și Tactical Tech se uită și la felul în care inteligența artificială influențează peisajul colectării de date. AI nu apare într-un vid: vine peste o industrie care a petrecut deja ani întregi colectând date, construind profiluri și dezvoltând metode de influențare. Iar cercetarea Tactical Tech arată că instrumentele folosite pentru a vinde produse pot fi adaptate pentru a vinde și idei politice. Diferența este că sistemele de AI pot accelera și automatiza o mare parte din acest proces: de la analizarea informațiilor despre oameni până la producerea și personalizarea mesajelor care încearcă să-i convingă.

Tuszynski a fost la începutul lui septembrie printre speakerii Festivalului Digital Predau Viitor organizat de Asociația TechSoup, o conferință internațională online dedicată pedagogiei pentru gândire critică și creativă, cetățeniei digitale, literației în AI și programării.

Publicitatea comercială, din ce în ce mai greu de distins de publicitatea politică

Atunci când vedem o reclamă online, avem tendința să ne gândim la ea ca la un mesaj simplu: o companie vrea să ne vândă un produs. În spatele acelui mesaj există însă o infrastructură mult mai complicată, care încearcă să afle cine suntem, ce ne interesează, ce site-uri vizităm, ce conținut ne atrage atenția și ce ne face să reacționăm. Publicitatea online nu mai înseamnă doar afișarea unui produs în fața unui număr cât mai mare de oameni, ci și clasificarea oamenilor în funcție de caracteristicile și comportamentul lor.

Marek Tuszynski spune că acesta este primul lucru care trebuie înțeles atunci când vorbim despre legătura dintre publicitatea comercială și influența politică. „Publicitatea din ziua de astăzi este o intervenție complexă, o intervenție digitală, și nu este doar comercială. Fiecare reclamă poate fi adaptată unui anumit tip de persoană. Asta nu înseamnă că fiecare reclamă te targetează pe tine ca persoană specifică, care locuiește la o anumită adresă. Dar noi, ca utilizatori ai spațiilor digitale, suntem clasificați.”

Clasificarea aceasta se face printr-un ecosistem format din platforme, agenții de publicitate, brokeri de date și alte companii specializate în colectarea și procesarea informațiilor despre utilizatori. Unele dintre aceste date sunt furnizate direct de noi, atunci când completăm un formular sau folosim un serviciu, iar altele sunt deduse din comportamentul nostru: site-urile pe care le vizităm, articolele pe care dăm click, reclamele cu care interacționăm, locația sau dispozitivul pe care îl folosim. 

Ce legătură este între un site de pantofi și publicitatea politică

Cercetarea Tactical Tech asupra industriei influenței a arătat că acest mecanism comercial a fost preluat de campaniile politice și adaptat pentru a identifica alegători, a-i grupa și a determina ce tip de mesaj ar putea funcționa asupra lor. Organizația a identificat sute de companii care ofereau servicii de acest fel partidelor politice și a documentat metodele prin care datele personale pot fi folosite pentru a influența alegătorii.

„Dacă îți configurezi instrumentul de publicitate astfel încât să colecteze date (iar majoritatea o fac, folosind diferite tipuri de trackere) poți colecta foarte multe date comportamentale și psihologice despre diferite tipuri de subiecți”, explică Tuszynski. „Iar acele date nu au legătură cu comerțul. Au legătură cu tine ca persoană și cu caracteristicile tale.”

O companie care vinde, de exemplu, pantofi nu are nevoie să știe totul despre persoana care vede reclama. Dar infrastructura prin care reclama ajunge la acea persoană poate colecta mult mai multe informații decât cele strict necesare pentru vânzarea pantofilor. Iar aceste informații pot fi agregate cu altele. Un profil construit într-un sistem poate fi îmbogățit cu date provenite din alte servicii sau alte companii. Nu mai este important doar ce produs ai cumpărat, ci ce fel de persoană pari să fii.

„Datele sunt colectate de terți care fac publicitate pentru tine, iar aceștia îți creează un profil. Îl poți vinde, poți adăuga alte informații de la alte servicii despre un tip similar de persoană și așa mai departe. Iar asta crește masiv posibilitățile de a folosi aceste informații în scopuri politice”, spune Tuszynski.

Ceea ce se întâmplă în publicitatea comercială (să afli cât mai multe despre public și să vezi ce mesaj funcționează asupra lui) poate fi și este transferat în politică.

„De aceea este foarte greu să distingem publicitatea politică de publicitatea comercială în zilele noastre, pentru că poți folosi oricare dintre ele pentru a influența, la scară largă, starea de spirit a cuiva”, spune Tuszynski. „Dacă acea persoană este predispusă să interacționeze cu ceva sau nu și așa mai departe.”

Tactical Tech numește acest ecosistem „Influence Industry” și arată că este vorba de o piață largă. Organizația a petrecut 12 luni investigând cine vinde aceste servicii, ce promit companiile și cum transformă datele personale în instrumente de influență. În 2022 a lansat și un Influence Industry Explorer care documenta peste 500 de companii implicate în campanii electorale.

„Teza noastră a fost că există o piață uriașă, în valoare de miliarde de euro, care oferă servicii partidelor politice, corporațiilor, actorilor politici, oamenilor care vor să fie aleși și așa mai departe, ajutându-i să targeteze audiențe”, spune Tuszynski. „Dar targetarea mea înseamnă și targetarea oponenților, targetarea oamenilor care sunt neutri, indiferenți și așa mai departe. Să-i facă să reacționeze sau să nu reacționeze la anumite narațiuni, dacă vrei să le numești așa.”

Un exemplu este investigația publicată de Snoop

De altfel, investigația publicată recent de Snoop oferă un exemplu concret despre cum arată această infrastructură în România. Jurnalistul Victor Ilie a urmărit timp de cinci luni peste 100.000 de reclame de pe 131 de site-uri din Europa de Est și a analizat codul din spatele lor. Investigația a identificat infrastructura AdNow, o rețea de publicitate cu legături în Rusia, și a arătat cum reclamele și trackerele sale pot colecta identificatori și date despre comportamentul utilizatorilor și le pot transmite mai departe.

„Cred că, în ziua de azi, să vorbești despre publicitate comercială este complet înșelător”, spune Tuszynski. „Nu există publicitate comercială. Orice reclamă comercială duce la crearea unor profiluri personale ale oamenilor, care pot fi folosite în diferite scopuri: pentru a-i spama, pentru a face phishing și a obține informații despre ei și pentru a le influența reacțiile sau comportamentele politice.”

Cum a schimbat inteligența artificială peisajul colectării datelor

Inteligența artificială a ajuns într-o lume în care exista deja o industrie uriașă construită în jurul colectării, stocării și analizării datelor despre comportamentul nostru. Diferența adusă de AI este că aceste date pot fi acum folosite într-un mod mult mai sofisticat și mai eficient.

În loc să ai doar o bază de date care spune că un utilizator a citit anumite articole, a cumpărat anumite produse sau a petrecut timp pe anumite site-uri, poți avea sisteme capabile să găsească rapid tipare între cantități uriașe de informații și să producă predicții sau răspunsuri pe baza lor. Iar dacă utilizatorul însuși îi oferă sistemului informații personale, profesionale, emoționale sau financiare, cantitatea și natura datelor colectate se pot schimba radical.

Platformele online funcționează deja astfel: atrag utilizatorii prin servicii cât mai simple și fără fricțiune, transformă baza de utilizatori într-o bază de date și monetizează profilarea, inclusiv prin publicitate targetată. În cazul AI, interacțiunea este însă mult mai intimă. Poți spune direct sistemului ce gândești, ce te preocupă, ce probleme ai, ce planuri ai sau ce nu înțelegi.

„Nu am mai văzut niciodată un instrument atât de perfect pentru ca orice afacere să colecteze informații extrem de personale și, de asemenea, profesionale, la scară largă”, spune Tuszynski.

Un chatbot conversațional poate să afle rapid și ușor ce te sperie, ce relații ai, ce probleme ai la serviciu, ce planuri de viitor ai, ce păreri ai despre un subiect sau ce fel de sfat cauți. Cu cât AI devine mai mult un asistent personal, cu atât cantitatea de informație pe care utilizatorul este dispus să o ofere poate crește.

„Aceste date rămân în baze de date. Pot fi folosite pentru a antrena modele. Și pot fi folosite pentru profilare foarte sofisticată și pentru manipularea atenției. Iar asta este întotdeauna politic”, explică Tuszynski.

AI poate accelera etapele gestionării datelor. Poate analiza cantități uriașe de informații, poate identifica tipare pe care oamenii nu le-ar observa manual și poate transforma rezultatele într-o formă ușor de folosit. 

„Problema este că datele nu sunt doar datele pe care le-ai dat tu. Ele pot fi combinate cu alte date. Pot fi adăugate informații din alte servicii, din alte baze de date, din alte surse. Și atunci începi să obții un profil mult mai sofisticat. AI-ul face acest lucru mult mai ușor, pentru că poate să proceseze toate aceste informații și să găsească relații între ele pe care înainte era foarte greu să le vezi”, spune Tuszynski.

Aceasta este diferența dintre vechea industrie a profilării și ceea ce poate deveni industria influenței odată cu AI. Astăzi, o parte mult mai mare din acest proces poate fi automatizată: identificarea tiparelor, clasificarea oamenilor, generarea mesajului și chiar adaptarea lui în funcție de reacția publicului.

„Ceea ce se întâmplă acum este că ai o mașină care poate să colecteze informații, să le analizeze și apoi să producă ceva care încearcă să-ți atragă atenția. Și apoi poate să observe dacă ai reacționat. Asta înseamnă că întregul ciclu devine mult mai rapid. Nu mai ai nevoie de oameni care să facă fiecare pas manual”, arată Tuszynski.

Ce înseamnă „Eliza effect”

Există o altă schimbare. AI-ul poate face ca utilizatorul să nu mai perceapă interacțiunea ca pe una cu o companie sau cu o platformă. O reclamă este evident o reclamă. Un formular îți cere evident date. Un cookie este, cel puțin în teorie, identificabil. Un chatbot însă poate părea un interlocutor.

Marek vorbește despre acest fenomen numit „Eliza effect”: tendința oamenilor de a atribui sistemelor conversaționale mai multă înțelegere, empatie sau competență decât au în realitate. 

„AI-ul generativ creează această impresie că vorbești cu un expert, cu un prieten, cu un confident. Și asta este foarte interesant, pentru că oamenii încep să-i spună lucruri pe care nu le-ar spune unei companii. Dar, de fapt, este o mașină statistică. Nu este un prieten, nu este un expert și nu are o înțelegere a ta în sensul în care o are o persoană. Este un sistem care prezice următorul lucru care ar trebui spus pe baza unor tipare din date”, spune Tuszynski.