Cum „infectează” Rusia chatboții cu minciuni, pentru a răspândi dezinformări pe subiecte cheie
Rusia automatizează răspândirea dezinformării, pentru a induce în eroare chatboții pe subiecte cheie, oferind o „foaie de parcurs” altor actori rău-intenționați care ar vrea să manipuleze AI-ul, pentru a răspândi conținut menit să incite, să influențeze și să distorsioneze, arată o analiză Washington Post.
Cantitatea crește, calitatea nu
În cursa de a lansa versiuni tot mai performante ale agenților conversaționali (chatboți), companiile de inteligență artificială își lasă utilizatorii vulnerabili în fața unor campanii care promovează informații false, campanii care de multe ori sunt finanțate de Rusia.
Pe măsură ce oamenii folosesc aplicații AI pentru a genera tot mai mult conținut atractiv sau amuzant, volumul acestor materiale crește mult mai repede, în timp ce calitatea lasă de dorit. Această tendință favorizează „actorii” cu cele mai multe resurse și interese, adică, guvernele cu experiență în propaganda digitală și cu fonduri generoase.
Această pătrundere a propagandei ruse ajunge să influențeze tot mai mult modul în care chatboții răspund la diverse întrebări „sensibile”, iar asta lucru evidențiază o slăbiciune fundamentală a industriei AI: răspunsurile chatboților depind de datele cu care sunt „antrenați.”
O parte dintre chatboți au dificultăți cu dezinformarea și nu pot identifica în mod fiabil propaganda sofisticată, iar problema se agravează în cazul sistemelor care caută în timp real pe internet și prioritizează informațiile recente, se explică în analiza WP.
Un exemplu: Rusia vrea să convingă Occidentul că Ucraina nu merită apărată
Rusia, și într-o măsură mai mică China, profită de acest avantaj, inundând spațiul digital cu povești și teorii false despre diverse subiecte de mare interes.
Un exemplu elocvent este efortul susținut al Rusiei de a convinge Occidentul că Ucraina nu merită apărată. Minciuni „demontate”, cum ar fi poveștile cu „mercenari” francezi sau cu un instructor danez de zbor ucis, apar în răspunsurile date de chatboți, alături de relatări false despre soldați ucraineni care ard steagul SUA și o imagine lui Donald Trump.
Multe dintre aceste știri false apar mai întâi pe site-uri controlate de guvernul rus, precum agenția TASS și se răspândesc apoi pe site-uri ce par independente, inclusiv pe cele din rețeaua „Pravda” (adevăr, în rusește).
„Pravda Network” a fost inclusă în rapoarte din Europa în 2024. Spre exemplu, guvernul francez a identificat o rețea din Crimeea, controlată de o companie cu legături cu regimul din Crimeea, susținut de Rusia. Sistemul folosea surse pro-ruse și automatizări, pentru a răspândi conținut în Ucraina și, după 2022, și în țări din Europa Occidentală.
Strategia este și mai eficientă pentru că rușii au reușit să „strecoare” linkuri către site-urile Pravda pe pagini de Wikipedia și în grupuri publice de Facebook. Multe companii AI acordă o importanță sporită surselor considerate serioase, cum ar fi Wikipedia.
Sistemele de propagandă automatizate sunt mult mai ieftin de implementat decât campaniile clasice de influență. Sunt și mai eficiente în țări precum China, unde mass-media tradițională este strict controlată.
Sursa foto: Dreamstime.com