Anthropic avertizează că AI va fi în curând capabilă să se perfecționeze singură, fără intervenția omului
Anthropic, care a dezvoltat Claude, a lansat un avertisment industriei AI: trebuie să apese „pedala de frână”, altfel companiile riscă să piardă controlul asupra propriilor creații, relatează CNN.
Modelele de AI se perfecționează rapid, atât de repid încât ar putea ajunge în curând să se dezvolte singure, fără intervenția omului, au avertizat, într-o postare pe blogul Anthropic, Marina Favaro, directoarea Institutului Anthropic, și Jack Clark, cofondator al companiei Anthropic.
Sistemele de AI capabile să se perfecționeze singure, cunoscute sub denumirea de „autoperfecționare recursivă completă”, ar putea aduce beneficii enorme pentru știință și domeniul sănătății, dar prezintă totodată riscuri majore pentru umanitate, spun ei.
„Autoperfecționarea recursivă completă ar putea, de asemenea, să sporească riscul ca oamenii să piardă controlul asupra sistemelor de AI”, au scris ei.
„Dacă sistemele sunt capabile să-și construiască pe deplin propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul capătă o importanță cu mult mai mare”, au mai spus Favaro și Clark.
Potrivit lor, industria de AI se află acum mult mai aproape de dezvoltarea unei inteligențe artificiale capabile să se perfecționeze singură decât se preconiza inițial.
Prin urmare, companiile din domeniul tehnologic ar trebui să ia în considerare încetinirea sau suspendarea dezvoltării de vârf în domeniul AI, pentru a le oferi cercetătorilor timpul necesar să înțeleagă mai bine potențialele efecte negative asupra societății pe care le-ar putea genera o astfel de inteligență artificială.
De asemenea, cercetătorii ar trebui să creeze un mecanism care să permită intervenția oamenilor în cazul în care lucrurile scapă de sub control, au afirmat aceștia.
„Când mă uit la mașina pe care o conduc, nu văd decât pedala de accelerație. Nu am pedală de frână, iar cu siguranță, la un moment dat în viitor, s-ar putea să ne dorim această opțiune”, a spus Clark, într-un interviu la CNN.