de Olivia Popa
Dragoș Stanca, antreprenor digital și una dintre vocile care urmăresc de aproape transformările produse de inteligența artificială, a fost invitatul lui Cătălin Striblea la Leaders, podcast realizat sub umbrela Vorbitorincii. Dialogul a avut loc înaintea IQ Digital Summit, întâlnirea experților în inteligență artificială programată la București și a pornit de la întrebarea care în ultima vreme se află pe buzele tuturor: încetinim dezvoltarea? Accelerăm reglementarea?
Dragoș Stanca afirmă că dezvoltarea inteligenței artificiale ne-a adus într-un „moment istoric crucial”, comparabil, ca amploare a impactului, cu dezvoltarea bombei atomice. La Vorbitorincii Leaders, el a amintit că energia nucleară a produs deopotrivă dezastrul de la Hiroshima și Nagasaki dar și, ulterior, tehnologiile folosite în beneficiul societății, inclusiv pentru producerea de energie. În aceeași logică, dezvoltarea AI poate deveni un instrument cu efecte radical diferite, în funcție de felul în care este dezvoltată, controlată și folosită de către om.
Dragoș Stanca: ce înseamnă, de fapt, încetinirea AI
Una dintre vocile care au reaprins dezbaterea este Dario Amodei, CEO-ul Anthropic, compania care dezvoltă Claude. Mesajul lui este că ritmul trebuie redus la „frontieră”, adică în zona celor mai avansate modele existente.
Nu este vorba despre oprirea ChatGPT, Gemini sau Claude și nici despre suspendarea cercetării. Miza sunt modelele care se apropie de ceea ce industria numește AGI, inteligență artificială generală, iar mai departe de superinteligență, momentul ipotetic în care sistemele ar depăși capacitatea umană de a le înțelege.
Avertismentele nu vin doar de la Amodei. Geoffrey Hinton, unul dintre pionierii domeniului, a vorbit despre riscuri care, in extremis, pot ajunge până la dispariția speciei umane.
„Dacă experții vorbesc de valori de genul 10, 15, 20%, evident că și polemica sau disputa asta este mai mult decât justificată”, spune Dragoș Stanca, după ce compară procentul cu riscul unei rulete rusești.
Riscurile mai apropiate sunt însă mult mai concrete: AI folosit pentru biohacking, atacuri cibernetice, fraude automatizate, deepfake-uri, arme autonome sau agenți capabili să execute singuri obiective și să găsească metode pe care oamenii nu le-au prevăzut.
Lecția pe care nu am învățat-o din social media
Pentru Dragoș Stanca, există deja un precedent. Rețelele sociale au fost lăsate aproape un deceniu și jumătate să optimizeze atenția utilizatorilor și profitul, fără suficiente limite etice. Rezultatul, spune el, a fost polarizarea, manipularea și erodarea democrațiilor.
„Au fost 15 ani în care algoritmii social media au fost lăsați […] să optimizeze doar pentru profit și pentru monetizarea atenției. Lucru care a dus la […] erodarea dramatică a democrațiilor”, spune el. „Hai să nu repetăm erorile pe care le-am făcut nereglementând la timp social media.”
Ideea celor care cer acum prudență este simplă: să nu repetăm aceeași greșeală cu o tehnologie mult mai puternică. Nuanța pe care o strecoară Dragoș Stanca este dacă AI nu a ajuns într-un moment prea important pentru a fi lăsat exclusiv în logica profitului câtorva companii.
Riscurile care mută discuția din SF în realitate
Aici apare partea complicată. Dragoș Stanca spune că se află „undeva la mijloc”. Există argumente serioase pentru încetinire, dar și unele la fel de serioase împotriva ei.
Dincolo de scenariul extrem al dispariției speciei umane, Dragoș Stanca enumeră riscuri mult mai concrete: biohacking, atacuri cibernetice, fraude automatizate, deepfake-uri, arme autonome și agenți AI capabili să execute obiective fără intervenție umană directă. În zona biohackingului, pericolul ar fi folosirea AI pentru dezvoltarea unor agenți biologici mai periculoși, iar în cybersecurity, identificarea unor vulnerabilități capabile să afecteze bănci, sisteme de plăți sau infrastructuri critice.
„Dincolo de acest scenariu apocaliptic extrem, sigur că există multe alte scenarii semiapocaliptice. Mai ales în zona biohacking și cyber security sunt aceste riscuri”, spune Stanca.
Tot el introduce însă și contraponderea: nu știm exact ce au văzut în laboratoare oamenii care cer încetinirea AI și cât din avertisment este risc demonstrat și cât este scenariu posibil.
„Argumentele celor care spun că încetinirea ar putea să dea, de fapt, un avantaj competitiv tocmai actorilor care nu respectă aceste reguli […] este, de asemenea, un argument de luat în calcul”, spune Dragoș Stanca.
În ce privește argumentul geopolitic, dacă Statele Unite și Europa încetinesc, iar China continuă, cursa nu dispare. Se schimbă doar raportul de forțe. Stanca explică modul în care companiile chineze folosesc „distillation”, antrenând modele mai mici și mult mai ieftine pe baza performanțelor modelelor americane.
Disputa despre AI ajunge la București
Tocmai această contradicție va fi pusă pe masă la IQ Digital Summit, pe 15 octombrie, la București, unde organizatorii propun o confruntare între viziuni diferite.
Mihnea Măruță și Paul Olteanu vor susține argumentele pentru încetinire, în timp ce Andrei Pitiș și Beniamin Mincu vor apăra continuarea dezvoltării. La București va veni și Mo Gawdat, fost executiv Google X, una dintre vocile cunoscute pentru avertismentele privind AI, dar și pentru ideea că tehnologia poate reprezenta o oportunitate uriașă dacă este folosită responsabil.
Dialogul integral, la Vorbitorincii Leaders, între Cătălin Striblea și expertul în lumea digitală, Dragoș Stanca, poate fi urmărit aici:
