„Peste câțiva ani, vom trăi într-un film Terminator”. Avertisment după ce o dronă controlată complet de AI a ucis trei persoane în Ucraina
Cazul unui drone rusești ghidată de AI care a ucis trei persoane în regiunea Zaporojie din Ucraina a stârnit o dezbatere privind modul cum va arăta războiul când AI va fi folosit pe larg, relatează New York Times.
Utilizarea inteligenței artificiale cu auto-țintire în atacul din 6 iulie este primul caz documentat în care au loc decese în rândul civililor cauzate de o dronă rusească echipată cu un astfel de sistem, a declarat Katerina Bondar, cercetător senior la Centrul de Inteligență Artificială Wadhwani din cadrul Centrului pentru Studii Strategice și Internaționale din Washington.
În timp ce încerca să se îndrepte spre o benzinărie, drona s-a izbit de un zid și a explodat într-o ploaie de șrapnel, ucigând-o pe Tetiana Bubinets, o studentă în vârstă de 19 ani, și alte două persoane.
Drona a fost programată de operatori umani să se deplaseze către o benzinărie, dar odată ce se apropia, și-a ales singură ținta exactă – cel mai probabil rezervoare de propan – pe baza antrenamentului său de a recunoaștere a astfel de rezervoare și de a le ataca, au declarat experții și oficialii militari.
Ce sunt dronele cu AI
Sistemele autonome de inteligență artificială pot fi antrenate pe baza a mii de imagini pentru a recunoaște anumite categorii de obstacole, precum „râu”, „camion militar” sau „persoană”. Dronele cu auto-țintire își folosesc camerele pentru a vâna aceste lucruri cu o precizie mai mare decât poate oferi un pilot uman.
În timp ce o dronă cu software tradițional urmează reguli pas cu pas scrise de o persoană, un sistem de inteligență artificială își stabilește propriile reguli prin identificarea unor tipare în cantități enorme de date, un proces numit învățare automată. Acest lucru îi permite să gestioneze situații neprevăzute. De asemenea, înseamnă că nimeni nu poate prevedea cu exactitate ce pot face.
„Acesta este un risc pentru întreaga lume”, a declarat colonelul Serhii Minaiev, comandantul apărării aeriene din Zaporijia. „În câțiva ani, vom trăi într-un film Terminator. Nu e o glumă. Mașinile iau decizii de a ataca.”
Atât Rusia, cât și Ucraina foloseau deja inteligența artificială în mai multe modele de drone înainte de apariția dronelor complet autonome. În acele modele anterioare, inteligența artificială este folosită doar pentru ceea ce este cunoscut sub numele de „ultima milă” – etapa finală a atacului, după ce un pilot uman de la distanță a selectat ținta. Inteligența artificială complet autonomă elimină oamenii din selecția finală a țintei.
Cipul Nvidia utilizat în atacul de la Zaporijie nu a fost criptat, au declarat oficialii ucraineni, astfel încât au putut vedea imaginile terenului care au fost încărcate în modul, permițând dronei să urmărească repere vizuale și să își mențină cursul. De asemenea, au putut examina codarea, au spus ei, care a dezvăluit ce tipuri de ținte fusese antrenată drona să recunoască și să atace, cum ar fi rezervoarele de propan.
Modelele anterioare de drone sunt, în general, fie pilotate de operatori umani, prin transmisii radio sau cabluri cu fibră optică, fie sunt preprogramate cu coordonate. Pe măsură ce dronele au preluat câmpul de luptă din Ucraina, piloții lor au devenit ținte principale.
O dronă autonomă ghidată de inteligență artificială, prin contrast, nu necesită piloți umani și poate fi mai precisă decât o muniție programată să lovească coordonate.
Oficialii locali ai apărării aeriene spun că Rusia a vizat obiecte civile, cum ar fi pompe sau rezervoare de propan la benzinării, în cadrul testării dronelor autonome din Zaporijie, împreună cu centre de recrutare militară. Nu este clar de ce au fost alese aceste ținte pentru teste.
Păreri diferite privind viitorul armelor cu AI
Grupările pentru drepturile omului și Crucea Roșie Internațională se opun vehement utilizării armelor bazate pe inteligență artificială fără implicarea oamenilor. Astfel de grupuri susțin că sistemele autonome lasă, în esență, roboții să interpreteze dreptul internațional în determinarea țintelor legitime în război.
Însă unii experți afirmă că, în viitor, armele ar trebui să fie de fapt obligate să aibă sisteme de inteligență artificială. Aceste arme sunt mai sigure, spun ei, deoarece sunt capabile să ia decizii înainte de a lovi, chiar dacă nu întotdeauna perfect, spre deosebire de bombele aeriene neghidate sau de obuzele de artilerie obișnuite care cad pur și simplu fără să vadă ce vor lovi.