Cât de inteligentă este Inteligența Artificială? Dezbatere HotNews.ro LIVE: Inteligența artificială nu replică orbește ceea ce a învățat. Cum se poate adapta într-un meci de șah / Acei oameni care nu vor să iasă din rutină vor fi înlocuiți de roboți

„Ne îndreptăm spre o societate în care munca nu mai e o precondiție pentru trai. Un asemenea tip de societate nu l-a proiectat nimeni”, susține deputatul Varujan Pambuccian în cadrul dezbaterii „Cât de inteligentă este „Inteligența Artificială?”, la care au mai participat Alexandru Bălan, director de cercetare la Bitdefender, și Vlad Marincaș, unul din fondatorii startup-lui InsightOut Analytics. Dezbaterea a avut loc în cadrul seriei „România în Europa”, o inițiativă HotNews.ro, susținută de Fundația Konrad Adenauer.

Dezbaterea a fost transmisă pe conturile de Facebook și YouTube ale HotNews.ro.

Printre temele dezbaterii:

Despre ce vorbim, de fapt, când vorbim despre inteligență artificială?
Cum folosesc cele două companii, Bitdefender și InsightOut Analytics, inteligența artificială?
Este mai ieftină inteligența artificială decât cea umană?
Ce nu va putea face niciodată inteligența artificială?
Aplicații concrete ale AI: Algoritmii pot stabili cine merită să primească un credit bancar și cine nu, la ce mesaje electorale sau comerciale sunt mai sensibili oamenii și așa mai departe. Vom ajunge la momentul în care Inteligența Artificială va stabili și rezultatele alegerilor?

Principalele idei:

În primul rând, ar trebui să începem cu o definiție a inteligenței artificiale în acest moment. Despre ce vorbim de fapt când ne referim la Inteligență Artificială?

Varujan Pambuccian:

Este foarte simplu și greu în același timp să definim AI. Este un concept de marketing foarte bun, care a reușit să aducă finanțare
O colecție de algoritmi care pot căuta în volume foarte mari de date
Programul finanțat acum și în SUA, și în UE vizează cartografierea creierului, încă nici nu s-a reușit încheierea acestei părți
Cel mai cinstit este să definim inteligența artificială prin această colecție de algoritmi, cu aducerea unei idei, iarăși foarte vechi, a rețelelor neuronale adaptate la rețelele informatice de astăzi
Așa s-a ajuns astăzi la „deep learning”, o perfecționare a acestui tip de algoritmi
Este un lucru extrem de util și trebuie să ne concentrăm pe utilitate
Este un sistem de a căuta foarte rapid în volume mari de informație și de a găsi informațiile potrivite
Inteligența Artificială nu poate lua o decizie. Poate lua decizii pe baza regulilor date de cineva
Din acest motiv, va înlocui foarte multe meserii bazate pe reguli. Acolo, inteligența artificială va avea un cuvânt tot mai serios de spus

Cum folosiți Inteligența Artificială în compania Bitdefender?

Alexandru Bălan:

Sunt parțial de acord că „Inteligența Artificială” e o denumire de marketing
S-a adăugat însă capacitatea de învățare. Componenta foarte utilă acum este și partea de învățare – partea de automatizare, cu task-uri repetitive, dar elementul foarte important al Inteligenței artificiale e învățarea
De exemplu, sistemele care învață să joace șah – învață strategiile și le aplică
Îi pot da libertatea de a ieși din tipar. Trebuie să îi dau algoritmului libertate de decizii – aici poți reacționa altfel
Inteligența artificială nu replică orbește ceea ce a învățat
Detecția de anomalii
Un comportament neobișnuit poate fi identificat ca fiind suspect
Cum folosiți Inteligența Artificială în compania InsightOut Analytics?

Vlad Marincaș:

Definirea conceptului pentru noi – ce vedem prin Inteligența Artificială – o colecție de algoritmi bazată pe date, capabilă să facă predicții pe ele
Ne folosim de datele pe care unele firme le au și nu le fructifică la maxim.
Concret, consumatorul intră pe un site de comerț electronic, caută un televizor, iar compania ajută în căutări găsirea televizorului pe care algoritmii spun că se potrivește cel mai bine
Modelele de acest gen se bazează pe preferințele utilizatorilor, dar și pe ce fac ceilalți consumatori pe piață. Modelul este capabil să învețe aceste tendințe

Algoritmul poate sugera un anumit produs și în funcție de bugetul clientului?

Se poate face în mai multe feluri – modelul poate prinde

Un caz concret legat de Facebook. Există utilizatori care se plâng că algoritmii Facebook greșesc atunci când iau decizii importante, restrictive, sancționatorii. De exemplu, atunci când au blocat un conținut în mod abuziv, doar bazându-se pe un cuvânt cheie, dar nu au reușit să înțeleagă și contextul. Un exemplu concret – site-ul Hotnews a fost restricționat pe Facebook pentru folosirea cuvântului Hitler într-o postare, deși contextul era unul istoric: debarcarea din Normandia. O concluzie pe care o tragem de aici este aceea că Inteligența Artificială de la Facebook nu s-a dovedit prea inteligentă. Adică nu a înțeles contextul. De ce nu au înțeles algoritmii contextul?

Pambuccian:

Acești algoritmi nu înțeleg nimic în sensul în care vorbim de înțelegere la nivelul omului. Fac ce li se spune să facă. Dacă acestea sunt regulile puse la dispoziție acestor sisteme, ele vor acționa pe o direcție sau alta
E vorba despre sistemele de traducere
Noi luăm decizia cea mai convenabilă în trecut, astfel că pornim de la mai multe decizii convenabile. Cam așa funcționează și acest sistem, bazat pe predicții pe viitor
Facebook acționează pe un set de reguli. Nu se poate da vina pe nimeni altcineva decât pe cei care au alimentat sistemul de inteligență artificială a FB

Aplicații concrete ale Inteligenței Artificiale – în banking, de exemplu: Scorul de credit al unui client poate fi calculat de Inteligența Artificială pe baza unor algoritmi. De asemenea, posibilitatea ca acel client să fraudeze banca este calculată de AI. Întrebarea ar fi ce argumente aveți pentru a-i convinge pe cei care spun că un calculator nu poate fi mai bun decât un om în evaluarea unui alt om. Din cele mai vechi timpuri, oamenii s-au bazat pe încrederea reciprocă unii în alții. Deodată, roboții sunt cei care ne evaluează și decid dacă fac sau nu afaceri cu noi. De ce să avem încredere în algoritmi?

Marincaș:

Întrebarea este dacă lăsăm algoritmul să ia decizia privind scorul de credit, de exemplu. Algoritmii pot profita de bazele de date și pot învăța din greșeli făcute de ofițerii de credit
Tot ce se bazează pe feeling nu poate fi cuantificat
Deciziile luate de algoritmi, din ce am văzut, ultimele modele fac o treabă destul de bună. Se avansează foarte mult și cred că acolo ne îndreptăm, încet-încet.

Cum poate face față Inteligența Artificială unor situații de discriminare sau a altor provocări legate de etică. A fost un exemplu despre un program de recunoaștere facială care recunoașterea doar persoane albe. Cum s-ar putea armoniza Inteligența Artificială?

Bălan:

E greșit că noi raportăm Inteligența Artificială la inteligența omului
Este o unealtă
Inteligența Artificială știe că este imperfectă și are alerte implementate pentru fiecare moment în care nu știe ceva
Omul va ajuta algoritmul, pentru că atunci când eșuează datoria noastră e să îl ajutăm să înțeleagă

Credeți că vom ajunge ca Inteligența Artificială să decidă cine va câștiga alegerile?

Pambuccian:

Depinde foarte mult de cine utilizează acești algoritmi și în ce scop
Sunt reguli făcute de un grup de oameni, pe care trebuie să le accepți dacă vrei să folosești softul respectiv
Totul depinde de decizia majorității oamenilor de a utiliza sau nu un anumit soft
Depinde de noi să limităm acest gen de acțiuni. Cum o companie de antivirus încearcă să prezică amenințările, la fel societatea umană trebuie să se simtă într-o competiție continuă cu producătorii de malware și să-i elimine când se manifestă
Aceste lucruri țin mai degrabă de societatea non-virtuală

Al e mai ieftină decât inteligența umană?

Marincaș:

Dacă vorbim de job-uri repetitive, acolo Al începe să ia locul factorului uman
Pe joburi creative este mai greu
Rolul Inteligenței Artificiale este să ne facă viața mai simplă – nu trebuie să privim lucrurile „ori Al, ori factor uman”

Ce joburi nu vor mai exista, vor fi înlocuite de Ai?

Bălan:

Într-o lume ideală, oamenii nu își pierd joburile, se reprofilează pe task-uri de clasă mai înaltă
Sunt manager de proiect și îmi dau seama că aș putea fi înlocuit de un robot, pentru că sunt multe task-uri repetitive
Este foarte important că eu poate aș vrea să fiu mai creativ, să îmbunătățesc relațiile de lucru, pe care nu am timp să le fac din cauza acestor task-uri repetitive
Trebuie să ieșim din munca repetitivă, din rutină, să fim creativi, să inovăm
Acei oameni care nu vor să iasă din rutină vor fi înlocuiți de roboți

Pambuccian:

Revenind la întrebarea anterioară – E prima dată în istorie când se manifestă mai mulți factori în același moment. A treia revoluție agrară înseamnă o reducere cu 26% a oamenilor din tot lanțul de producție
China a realizat că sursa principală de venit moare și avea de ales dacă o înlocuiește cu fabricile robotizate
China și-a asumat un monopol în producție prin aceste fabrici robotizate
E o problemă foarte serioasă pentru spațiul euro-atlantic
Un alt domeniu care dispare – cel bazat pe reguli, call center-uri, mașini

Cine răspunde dacă o mașină condusă de Al lovește un pieton?

Lucrurile vor fi puse juridic la punct
Toate aceste lucruri ne duc spre un alt tio de societate pe care toți refuzăm că va veni
Ne îndreptăm spre o societate în care munca nu mai e o precondiție pentru trai. Un asemenea tip de societate nu l-a proiectat nimeni
Toți speră că vom conlucra. Nu poți să ai 7 miliarde de oameni creativi
E un joc pe care nu ni l-a adus nimeni, l-am creat noi, în calitate de consumatori – am vrut mai repede, mai bun, mai ieftin. Prețul – nu vom mai utiliza forța de muncă.
Este foarte greu de găsit echilibrul

Când vom ajunge să folosească și statul mai multă Inteligență artificială?

Bălan:

După cum am văzut, hackerii au încercat să cripteze datele unui spital și nu au avut succes pentru că spitalul s-a întors la dosarele cu șină
Există acest decalaj între sistemul de stat și cel privat, dar pandemia a avut un efect pentru adoptarea unor noi tehnologii pe repede-înainte

Există inițiative legislative în Parlament privind Inteligența artificială?

Pambuccian:

Strategii există, problema este dacă devin realități și în cât timp
Eu nu aș reglementa foarte mult aici, pentru că trebuie să înțelegem că dacă în anii 2000 dezvoltam o industrie IT, asta se va diminua foarte mult, pentru că activitatea de programare e bazata pe reguli si aici Inteligența Artificială va înlocui programatorii
Trebuie sprjinite start-up tehnologice de orice fel, pentru că șansele de a ne dezvolta nu mai sunt pe lohn. Trebuie să înțelegem că trăim sfârșitul lohn-ului

Sunt start-up-urile tehnologice sprijinite de stat?

…………………………………………..

Când vorbim despre inteligența artificială mulți se gândesc la acel viitor, îndepărtat sau nu, în care roboții vor face multe din treburile pe care acum le fac doar oamenii.

Nu știm exact cum va arăta viitorul, dar știm sigur că inteligența artificială este deja printre noi: mari companii de tehnologie ale căror servicii sunt folosite de miliarde de oameni, precum Facebook sau Google, folosesc în prezent inteligența artificială. Și nu doar companiile mari internaționale, ci și companii românești.

Această dezbatere face parte din proiectul „România în Europa”, o inițiativă HotNews.ro, susținută de Fundația Konrad Adenauer. Opiniile prezentate în materialele proiectului nu reprezintă în mod necesar poziția partenerului nostru.