Unul dintre cei mai apreciați scriitori de S.F. propune Big Tech o măsură demnă de romanele sale. Și un avertisment: Să nu ne transformăm în „eloi”

Neal Stephenson, unul dintre cei mai apreciați scriitori contemporani de science-fiction,  a sugerat ca sistemele de inteligență artificială să aibă voie să se lupte între ele, argumentând că evoluția aduce echilibru în ecosisteme. Însă el consideră, totodată, că oamenii ar trebui să înceteze să folosească A.I. înainte ca aceasta să ne prostească ca specie, relatează The Register.

Stephenson a inventat termenul „metavers” în „Snow Crash”, romanul său clasic din 1992, iar „Cryptonomicon”, epopeea sa din 1999, a anticipat apariția monedelor digitale și a criptării necesare pentru funcționarea acestora. Viziunea sa profetică, dar și poveștile captivante pe care le creează și în care explorează subiecte din matematică, criptografie, lingvistică, filosofie și istoria științei, îl fac să fie căutat atât ca romancier, cât și ca gânditor.

În această a doua calitate, a participat recent la ceea ce el însuși a descris drept „o discuție în cadrul unui panel despre inteligența artificială, organizată la un eveniment privat în Noua Zeelandă”.

Ulterior, a publicat discursul său introductiv de la acel eveniment, în care începe prin a remarca anxietatea pe care o trezește apariția bruscă a inteligenței artificiale generative.

Scriitorul compară A.I. cu celelalte forme de viață inteligentă de pe pământ

Stephenson sugerează să ne amintim că deja împărțim planeta cu multe alte forme de inteligență non-umană din regnul animal și că am învățat, în timp, să coexistăm cu ele.

„Suntem obișnuiți să le considerăm mai puțin inteligente decât noi – și de cele mai multe ori nu e greșit, dar poate ar fi mai corect să ne gândim că au tipuri diferite de inteligență, pentru că au evoluat să facă lucruri diferite” a scris el.

Neal Stephenson propune o clasificare a acestor inteligențe non-umane și ajunge să afirme că cele mai utile sisteme A.I. vor fi asemenea câinilor ciobănești: creaturi capabile să facă anumite sarcini mai bine decât un om. Alte A.I. spune el, vor semăna cu libelulele: în mare parte indiferente față de oameni, dar extrem de performante în anumite domenii. Iar altele vor fi precum corbii sau ciorile: conștiente de existența oamenilor, dar complet dezinteresate de noi.

Stephenson consideră că ChatGPT este comparabil cu un „cățel de poală”: un tip de inteligență care nu poate supraviețui fără oameni și care este „fin reglată după nevoile noastre și practic există pentru a ne face viața mai ușoară”.

Stephenson propune ca inteligențele artificiale să fie asmuțite unele împotriva altora

Autorul este de părere că vor apărea și inteligențe artificiale care vor reprezenta un pericol pentru oameni.

„Sper totuși că, chiar și în cazul acestor A.I. periculoase, putem trage o fărâmă de speranță din lumea naturală, unde competiția împiedică orice specie să domine complet ecosistemul”, a mai scris el. „Chiar și T. Rex trebuia să se ferească să nu fie spintecat în burtă de un Triceratops și, probabil, avea de înfruntat o mulțime de paraziți, infecții și lipsuri de resurse”.

„Dacă instruim A.I. să lupte și să învingă alte A.I., poate reușim să păstrăm un echilibru sănătos în noul ecosistem. Dacă aș avea timp și dacă aș înțelege mai bine cum funcționează A.I., mi-aș dedica energia construirii unora al căror scop unic să fie acela de a ataca modelele existente: să le livreze date false prin orice mijloc posibil, să le întrerupă alimentarea cu energie, să le descurajeze investitorii și să le saboteze activitatea în general”, a continuat Stephenson.

Scriitorul în vârstă de 65 de ani subliniază că nu propune asta din malițiozitate, ci din „convingerea generală că orice entitate ar trebui să fie supusă competiției, iar o competiție într-un ecosistem divers produce rezultate mai sănătoase pe termen lung decât să crești un potențial superprădător într-un vas sterilizat, unde i se oferă totul pe tavă”.

Stephenson a recunoscut că o luptă directă între sisteme de inteligență artificială nu e probabilă pe termen scurt, așa că și-a îndreptat atenția către alte metode de a limita riscurile. Pentru asta, a invocat observația filosofului canadian Marshall McLuhan potrivit căruia „fiecare augmentare este și o amputație”.

„Să nu lăsăm ChatGPT să ne facă să nu mai gândim pe cont propriu”

Stephenson a ilustrat acest concept evocând conversații pe care le-a purtat cu profesori „care spun cu toții că elevii lor folosesc ChatGPT pentru orice și, ca urmare, nu mai învață nimic”.

„S-ar putea să ajungem cu cel puțin o generație de oameni asemănători cu eloii din Mașina timpului a lui H.G. Wells: niște ființe slabe mintal, complet dependente de tehnologii pe care nu le înțeleg și pe care nu le-ar putea reconstrui niciodată de la zero dacă acestea s-ar defecta,” a scris Stephenson, punând și o întrebare retorică:

„Cine este, de fapt, adevăratul cățel de poală într-o lume plină de A.I. puternice?”

El consideră că este ușor să evităm să devenim ca eloii: tot ce trebuie să facem este să adoptăm „intervenții simple, cum ar fi obligativitatea ca examenele să se susțină în săli supravegheate, cu răspunsuri scrise de mână, pe foi albe”.

„Știm că se poate, pentru că așa se dădeau toate examenele în trecut. Nu e nevoie de nicio tehnologie nouă, nu există niciun impediment real în calea implementării, cu excepția inerției instituționale și, îmi pare rău să o spun, a refuzului părinților de a-și vedea copiii confruntați cu provocări serioase”, a scris el.

„În scenariul pe care l-am menționat mai devreme, în care oamenii fac parte dintr-un ecosistem stabil, dar competitiv, populat cu diverse forme de inteligență, un lucru este esențial: trebuie să devenim și noi niște competitori demni. Iar când competiția se dă pe terenul inteligenței, asta înseamnă să ne păstrăm – și să ne dezvoltăm – propria inteligență, ținând la distanță augmentările seducătoare, pentru a nu suferi amputațiile care vin la pachet cu ele”, a îndemnat el.