Amazon a renunțat la un soft de inteligență artificială folosit ca ajutor pentru găsirea de noi angajați, după ce s-a dovedit că programul depuncta CV-urile femeilor

Amazon s-a ajutat un timp de un soft cu inteligență artificială care selecta CV-urile cele mai bune, dar a renunțat la folosirea lui după ce s-au descoperit o serie de neajunsuri, inclusiv că CV-urile femeilor erau depunctate, informează Reuters. Este încă o dovadă că inteligența artificială trebuie folosită cu prudență și ca ajutor al oamenilor, nu ca înlocuitor.

Dat fiind că primea multe CV-uri, Amazon a decis în 2014 să pună la treabă o echipă pentru a automatiza cât mai mult procesul de recrutare. Amazon a automatizat multe operațiuni, iar folosirea inteligenței artificiale pe scară largă și la resurse umane a fost un pas logic.

Soft-ul a fost dezvoltat să se uite în CV-urile aplicanților și să le seclecteze pe cele mai promițătoare, fiecărui CV soft-ul dându-i o notă de la 1 la 5.

În 2015 cei de la Amazon au observat că unealta software discrimina femeile care aplicau pentru posturi tehnice, precum dezvoltator software, fiindcă modelele de computing ale Amazon au fost antrenate după tendințele legate de numărul CV-urilor depuse în ultimii 10 ani, iar bărbații au depus mult mai multe CV-uri decât femeile.

Practic, sistemul automatizat al Amazon funcționa pe ideea că bărbații care depuneau CV-ul sunt de preferat, iar CV-urile femeilor erau penalizate și dacă includeau cuvântul femeie în diverse activitați trecuite în CV de cea care aplică pentru un job. De exemplu au fost depunctate femeile care în CV scriau că au fost în echipa de șah sau că au făcut facultatea la universități unde clasele erau formate integral din femei. Depunctarea a venit numai din cauză că în CV era trecut cuvântul femeie.

Amazon a făcut modificări la algoritmi și la programe pentru ca ele să devină neutre când găseau termenul femeie în CV-uri, însă nu era nicio garanție că nu vor apărea alte categorii la care soft-ul să discrimineze.

Amazon a oprit proiectul la începutul anului trecut, concluzia fiind că nu există speranțe pentru el, iar recrutatorii de la companie au folosit soft-ul doar ca recomandare, dar nu s-au mai bizuit pe notele date automat de tool-ul informatic, spun sursele citate de Reuters.

Experimentul este o dovadă că inteligența artificială are multe limitări și companiile nu trebuie să se bazeze doar pe recomandările făcute de un soft, când decide cine are șanse mari de angajare.