Isărescu l-a raportat pe „Isărescu” lui Zuckerberg pentru deepfake / Răspunsul Meta: Sunt respectate standardele comunității

Mai multe videoclipuri postate pe Facebook îl arată pe Guvernatorul Isărescu recomandând platforme dubioase de investiții, clipurile fiind de fapt deepfake-uri destul de grosolane.

În clipurile cu pricina, vocea Guvernatorului a fost „clonată”, iar corelația sunet- imagine e și ea destul de precară. Oficialii BNR spun că au raportat postarea, iar răspunsul Facebook a fost că deepfake-ul „respectă standardele rețelei”.

În România avem un proiect al Legii deepfake care a trecut de Senat și urmează să ajungă la votul final în Camera Deputaților.

Noua lege îi va obliga pe toți românii care realizează clipuri sau imagini cu ajutorul Inteligenței Artificiale să menționeze acest lucru pe ecran.

La noi au fost subiecte ale deepfake-urileo și alte persoane publice.

Sebastian Burduja a depus o plângere penală la Parchetul de pe lângă Înalta Curte de Casație și Justiție împotriva utilizării tehnologiei deepfake pentru înșelarea cetățenilor în achiziționarea de servicii false de investiții în domeniul energiei. „Aceste fapte reprezintă infracțiuni grave, nu doar împotriva individului, ci și împotriva securității naționale a României.

În data de 19 ianuarie 2024, pe pagină falsă de Facebook denumită „HTPPY”, a fost postat un videoclip deepfake în care am fost reprezentat promovând fals o schemă de investiții inexistente a companiei ENEL. Videoclipul a folosit în mod fraudulos imaginea mea și vocea mea pentru a convinge publicul să investească într-o platformă fictivă. Această acțiune nu doar că a înșelat publicul, dar a și denigrat reputația mea și a instituției Ministerului Energiei”, a spus Burduja

De asemenea, Autoritatea de Supraveghere Financiară (ASF) a atenționat chiar azi să nu dea curs, sub nicio formă, unor propuneri telefonice de investiții sau de transferuri de fonduri venite din partea anumitor persoane care susțin că reprezintă ASF și care folosesc o aplicație care generează, în mod fraudulos, apeluri care se identifică cu numărul de TelVerde al Autorității 0800 825 627.

Deepfake-urile cu persoane publice sunt peste tot în lume

Recent, angajatul unei multinaţionale din Hong Kong a fost păcălit, în timpul unei videoconferinţe, să efectueze mai multe tranzacţii bancare importante… înainte de a realiza că a fost victima unei escrocherii orchestrate cu ajutorul inteligenţei artificiale, informează RTHK.

De asemenea, în Australia, oficiali ai Bursa de Valori și Banca lor Centrală „au lansat” un sistem automatizat pentru tranzacționarea pe piețe care le-ar aduce utilizatorilor „fluxuri stabile de venituri”. În clipul postat public, Trezorierul Australiei și fostul Guvernator prezintă „beneficiile” sistemului.

Termenul „deepfake” se referă în mod specific la utilizarea algoritmilor AI de deep learning care utilizează date (o fotografie, un videoclip sau unul audio) pentru a „copia” fața și vocea acelei persoane. Disponibilitatea din ce în ce mai mare a tehnologiei utilizate pentru a crea deepfake-uri devine alarmantă pentru cei care lucrează în securitatea biometrică și autentificarea identității (ID) sau pentru oricine se bazează pe aceste metode pentru a identifica de la distanță și a integra clienții (în special pentru bănci)

În iunie 2020, Sensity identificase peste 49.000 de videoclipuri deepfake online – o creștere de peste 330% față de iulie 2019. Cele mai vizate sectoare pentru deepfake sunt divertisment (63%), moda (22%), sport (4,3%). și afaceri (4,1%). În raportul The State of Deepfakes din 2019 , Sensity evidențiază ofertele pieței de deepfake, de la „videoclipuri cu schimb de fețe pentru 30 USD până la clonarea vocală personalizată pentru 10 USD per 50 de cuvinte generate”.

Cu o singură fotografie a cuiva făcută din rețelele sociale deepfake-urile ar putea genera imagini care să fie folosite pentru a-l expune public în posturi dubioase sau pentru șantaj.

„Ne uităm mereu la amenințările emergente, iar deepfake-urile reprezintă cu siguranță o preocupare pentru sectorul [bancar]”, spune Teresa Walsh, șefa unui Centru de analiză și schimb de informații pentru serviciile financiare. „Pe măsură ce această tehnologie deepfakese dezvoltă și devine comercializată pe piața neagră, probabil că vom vedea o utilizare mai mare a deepfake-urilor, poate chiar și a comercianților deepfakes-as-a-service.”