Anthropic anunță că a blocat folosirea modelul său de AI pentru dezvoltarea unei arme foarte periculoase
Anthropic a anunțat joi că a identificat și a dejucat încercări de a utiliza modelul său de AI pentru „activități rău intenționate” care ar putea sprijini dezvoltarea de arme biologice, relatează BBC și CNN.
Compania specializată în inteligență artificială, cunoscută pentru modelul său Claude, a publicat un amplu raport în care prezintă cinci studii de caz reale în care utilizatorii „au ocolit măsurile de control” care blochează accesul utilizatorilor din anumite regiuni și „au recurs la alte metode pentru a ascunde scopul cercetărilor lor, astfel încât să evite măsurile noastre de protecție”.
Exemplele includ cercetări de tip „gain-of-function” și vizează atât boli infecțioase, precum gripa aviară, cât și veninuri și toxine noi.
Analizând activitatea din ultimele 30 de zile, Anthropic a declarat că a identificat aproximativ 35 de „eforturi de cercetare distincte” care prezentau activități îngrijorătoare.
Compania a recunoscut însă că nu poate fi sigură dacă persoanele implicate „intenționau să facă rău” sau dacă erau cercetări în scopuri științifice legitime. Anthropic a precizat că persoanele menționate în studiile de caz erau „cercetători activi”, însă nu a dezvăluit instituțiile de cercetare sau țările în care au avut loc activitățile.
Raportul a evidențiat „cinci studii de caz privind indivizi care utilizează modelele noastre în moduri care ar putea sprijini dezvoltarea armelor biologice”, a spus Anthropic.
Utilizarea abuzivă în scopuri biologice, se menționează în raport, reprezintă „unul dintre cele mai grave riscuri ale modelelor de AI de ultimă generație”.
Fără măsurile de protecție adecvate, astfel de capacități „ar putea avea consecințe catastrofale”, a afirmat Anthropic.
„Aceleași informații care pot fi folosite pentru a dezvolta o armă biologică ar putea fi folosite și pentru a dezvolta, de exemplu, un vaccin sau un tratament pentru o boală”, a afirmat Anthropic în raport.
Ce a mai descoperit Anthropic
Unul dintre studiile de caz prezentate în detaliu în raport a vizat o solicitare de asistență pentru redactarea unei cereri de finanțare destinată cercetării de tip „câștig de funcție” privind transmisibilitatea și capacitatea de a evita răspunsul imun al virusului chikungunya.
Într-un alt caz, un cercetător din afara SUA folosea Claude pentru cercetări privind gripa aviară, care se concentrau pe adaptarea virusurilor la mamifere și pe modul în care acestea provocau boli grave.
Raportul prezintă, de asemenea, cazuri de cercetare privind ortopoxvirusurile – un grup care include variola, care provoacă variola, și mpox – precum și toxinele din venin.