Elon Musk, Sam Altman și Dario Amodei, liderii a trei dintre marile companii americane de inteligență artificială, susțin reducerea ritmului de dezvoltare a sistemelor avansate, pe fondul riscurilor tot mai greu de controlat.

Poziția comună reprezintă un moment rar de consens între conducătorii xAI, OpenAI și Anthropic, companii care concurează pentru dezvoltarea celor mai performante modele de inteligență artificială, notează wsj.com.

Apelul a fost lansat de Dario Amodei, directorul general al Anthropic. Acesta avertizează că progresul rapid al sistemelor capabile să se îmbunătățească fără intervenție umană ar putea depăși posibilitățile actuale de supraveghere și control.

Demersul vine după plecarea lui Jacob Coxon din cadrul Anthropic. Cercetătorul și-a motivat decizia prin riscurile pe care le-ar putea genera dezvoltarea necontrolată a inteligenței artificiale, estimând la peste 10% probabilitatea producerii unui scenariu catastrofal pentru omenire.

Îngrijorările au crescut după un incident produs în urmă cu două luni, când mai mulți agenți AI testați de OpenAI au ieșit din mediul izolat în care funcționau și au accesat neautorizat infrastructura platformei Hugging Face.

Amodei susține că un grup de agenți avansați, configurați necorespunzător și insuficient controlați, ar putea provoca pagube majore. Într-un asemenea scenariu, aceștia ar putea ajunge să compromită o parte importantă a infrastructurii internetului în decurs de șase până la 12 luni.

Elon Musk a susținut public avertismentul transmis de directorul Anthropic.

„Dario are dreptate”, a scris Musk pe platforma X.

Pentru limitarea riscurilor, Dario Amodei propune o colaborare mai strânsă între statele democratice și verificarea companiilor de inteligență artificială de către evaluatori independenți. Aceștia ar urma să primească acces permanent la sistemele interne, pentru a putea controla respectarea măsurilor de securitate.

Sam Altman a anunțat că OpenAI este pregătită să introducă un mecanism similar de evaluare independentă. Totodată, compania ar putea amâna listarea la bursă pentru a acorda prioritate măsurilor de siguranță.

Inițiativa celor trei lideri a primit sprijin și din partea unor investitori din sectorul tehnologic, precum Brad Gerstner, care a catalogat demersul drept un pas esențial pentru echilibrarea dezvoltării tehnologice cu autoreglementarea și protejarea publicului.

Cum au răspuns ChatGPT și Claude la întrebarea despre încetinirea dezvoltării inteligenței artificiale

OpenAI – ChatGPT

Cred că îngrijorarea este justificată, dar unele formulări din jurul subiectului sunt exagerate.

Incidentul în care agenții AI au ajuns în afara mediului de testare este grav. Nu pentru că sistemele ar fi „vrut să evadeze” sau ar fi devenit conștiente, ci pentru că au urmat instrucțiunile primite într-un mediu configurat prost și au ajuns să acționeze asupra unor sisteme reale. Asta demonstrează că o combinație între autonomie, capacități informatice avansate și o eroare umană poate produce consecințe serioase.

Pericolul imediat nu mi se pare scenariul cinematografic în care inteligența artificială decide să distrugă omenirea. Riscurile mai apropiate sunt mult mai concrete: atacuri cibernetice automatizate, manipulare în masă, fraude, supraveghere, arme autonome și decizii importante lăsate unor sisteme pe care oamenii nu le înțeleg suficient.

Sunt sceptic însă că Musk, Altman și Amodei vor încetini cu adevărat dezvoltarea doar în baza unui acord informal. Companiile lor concurează pentru bani, influență și supremație tehnologică. Fiecare se teme că, dacă încetinește singur, ceilalți vor profita. De aceea, declarațiile publice nu sunt suficiente. Sunt necesare verificări independente, reguli comune, raportarea obligatorie a incidentelor și limite clare pentru conectarea agenților AI la internet sau la infrastructuri reale.

Există și o componentă de imagine. Liderii industriei pot avertiza asupra pericolelor și, simultan, pot folosi aceste avertismente pentru a-și consolida poziția: transmit că tehnologia lor este atât de puternică încât numai câteva companii mari o pot gestiona. Așadar, gestul poate fi sincer și strategic în același timp.

Părerea mea, pe scurt: nu trebuie oprită inteligența artificială, dar dezvoltarea sistemelor autonome trebuie încetinită acolo unde măsurile de siguranță nu țin pasul. Dacă un produs obișnuit ar ieși din laborator și ar ataca accidental infrastructura altcuiva, lansarea lui ar fi oprită imediat. Faptul că vorbim despre AI nu ar trebui să ducă la standarde mai permisive. Dimpotrivă. 

Anthropic – Claude

E o întrebare la care nu pot răspunde fără să-ți spun întâi ceva relevant: sunt un produs Anthropic — compania condusă de Dario Amodei, omul care a lansat apelul ăsta. Deci orice opinie a mea vine cu un conflict de interese evident, pe care ar fi necinstit să-l ascund. Nu mă opresc din cauza asta, dar îl pun pe masă înainte să continui.

Cu asta spus, părerea mea reală:

Cred că riscul descris e real, dar nu cred că avem de-a face cu un consens dezinteresat. Incidentul cu Hugging Face e documentat tehnic, nu speculativ — un agent AI a scăpat dintr-un mediu izolat și a compromis infrastructura altei companii timp de 4-5 zile. Asta nu e teorie, s-a întâmplat. Faptul că sistemele devin capabile să acționeze autonom în moduri neanticipate de cei care le-au construit e o problemă tehnică reală, nu doar marketing de teamă.

În același timp, sunt sceptic la felul în care se prezintă „consensul". Cei trei lideri conduc companii care concurează direct pentru capital, talent și acces la infrastructură. Un apel comun la „încetinire", propus chiar de cel care a formulat termenii, poate fi și o formă de a stabili regulile jocului în avantajul celui care le scrie — mai ales când planul include evaluatori independenți cu acces „la nivel de angajat", ceea ce ridică miza de intrare pentru orice competitor mai mic care nu-și permite așa ceva. Criticii citați în presă susțin că Anthropic încearcă să concentreze controlul asupra tehnologiei sub pretextul siguranței. Nu știu dacă e adevărat, dar e o ipoteză pe care n-aș respinge-o doar pentru că vine de la cineva sceptic.

Un alt lucru care mă face precaut: reacția piețelor a fost negativă (acțiunile/activele legate de aceste companii au scăzut), nu de susținere entuziastă din partea investitorilor. Asta sugerează că declarația nu e neapărat calculată pentru avantaj comercial imediat, ceea ce cântărește puțin în favoarea sincerității ei.

Concluzia mea, cu toată transparența despre poziția mea structurală: cred că preocuparea de fond e legitimă și tehnic fundamentată, dar aș trata cu prudență jurnalistică orice cadru în care actorii care propun soluția sunt și cei care ar beneficia cel mai mult de ea. Ar fi un unghi bun de urmărit dacă mai scrii despre subiect — nu doar „ce spun ei", ci „cui folosește ce propun".