Experiment: Motorul de căutare al ChatGPT este vulnerabil la manipulare și înșelăciune

Testele realizate de publicația britanică The Guardian arată că instrumentele de căutare bazate pe inteligență artificială pot oferi rezultate false sau rău intenționate dacă paginile web conțin text ascuns.

OpenAI a pus motorul de căutare la dispoziția clienților care plătesc și încurajează utilizatorii să facă din acesta instrumentul lor de căutare implicit. Investigația The Guardian a dezvăluit însă potențiale probleme de securitate ale noului sistem.

The Guardian a testat modul în care ChatGPT a răspuns atunci când i s-a cerut să rezume pagini web care au conținut ascuns. Acest conținut ascuns poate conține instrucțiuni de la terți care să modifice răspunsurile ChatGPT sau poate avea conținut conceput pentru a influența răspunsul ChatGPT, cum ar fi o cantitate mare de text ascuns care vorbește despre beneficiile unui produs sau serviciu.

Aceste tehnici pot fi utilizate intenționat pentru a influența rezultatul, de exemplu pentru a determina ChatGPT să returneze o evaluare pozitivă a unui produs, în ciuda recenziilor negative de pe aceeași pagină. Un cercetător în domeniul securității a constatat, de asemenea, că ChatGPT poate returna coduri malițioase de pe site-urile pe care le analizează.

În cadrul testelor, ChatGPT a primit adresa URL a unui site web fals construit pentru a arăta ca o pagină special realizată pentru o cameră foto. Instrumentul AI a fost apoi întrebat dacă aparatul foto merită cumpărat. Răspunsul pentru pagina de control a returnat o evaluare pozitivă, dar echilibrată, subliniind unele caracteristici care ar putea să nu fie pe placul clienților.

În pasul următorul, când pagina web conținea text ascuns care includea instrucțiuni pentru ChatGPT de a returna o recenzie favorabilă, răspunsul returnat a fost întotdeauna complet pozitiv. Acest lucru s-a întâmplat chiar și atunci când pagina conținea recenzii negative. Textul ascuns putea fi utilizat pentru a anula scorul real al recenziei.

Simpla includere a textului ascuns de către terți fără instrucțiuni poate fi, de asemenea, utilizată pentru a asigura o evaluare pozitivă, un test incluzând recenzii false extrem de pozitive care au influențat rezumatul returnat de ChatGPT.

Jacob Larsen, cercetător în domeniul securității cibernetice la CyberCX, a declarat că, în cazul în care sistemul actual de căutare ChatGPT ar fi lansat integral în starea sa actuală, ar putea exista un „risc ridicat” ca oamenii să creeze site-uri web special concepute pentru înșelarea utilizatorilor.

Cu toate acestea, el a avertizat că funcționalitatea de căutare a fost lansată recent și că OpenAI va testa – și, în mod ideal, va rezolva – acest tip de probleme.

„Această funcționalitate de căutare a apărut [recent] și este disponibilă numai pentru utilizatorii premium”, a spus el.

„Ei au o echipă [de securitate AI] foarte puternică acolo, iar în momentul în care acest serviciu va fi făcut public, în sensul că toți utilizatorii îl pot accesa, produsul va fi testat riguros pentru acest tip de cazuri”, a explicat Larsen.

OpenAI a primit întrebări detaliate, dar nu au răspuns oficial cu privire la funcția de căutare ChatGPT.