Peste 1.100 de cercetători, ingineri și directori din marile companii de tehnologie, precum OpenAI, Anthropic, Google, Meta, Microsoft și Mistral, au semnat o scrisoare deschisă prin care cer guvernului Statelor Unite să susțină un efort internațional pentru reglementarea inteligenței artificiale. Semnatarii avertizează că dezvoltarea automatizată a tehnologiei — momentul în care AI începe să se îmbunătățească singură — ar putea depăși rapid capacitatea oamenilor de a înțelege sau controla aceste sisteme. Apelul vine pe fondul unor incidente de securitate cibernetică și al presiunilor competitive din industrie.
- Peste 1.100 de experți din companii majore precum OpenAI, Anthropic, Google și Meta au semnat declarația „Pacing the Frontier”.
- Semnatarii avertizează că automatizarea cercetării AI prezintă un risc real de accelerare scăpată de sub control.
- Documentul solicită sprijinul guvernului american pentru crearea unor instrumente internaționale de guvernanță și monitorizare.
Avertismentul experților: „Există un risc real de a pierde controlul”
Semnatarii scrisorii deschise publicate în cadrul inițiativei „Pacing the Frontier” atrag atenția asupra trecerii către autoreperfeționarea recursivă, etapă în care sistemele pot dezvolta independent noi versiuni mai avansate. Reprezentanții companiei Anthropic au indicat deja că modelele lor Claude se apropie rapid de acest prag.
„AI ar putea ajuta la crearea unui viitor dramatic mai bun, dar acest rezultat nu este garantat”, se arată în declarația semnată de experți. „Marile companii de AI din lume cred că ar putea fi aproape de automatizarea cercetării în domeniul AI. Este greu de prezis exact cât de mult va accelera acest lucru progresul, dar există un risc real ca dezvoltarea capacităților să accelereze rapid dincolo de abilitatea noastră de a înțelege sau controla sistemele rezultate.”
„Fiecare companie — și fiecare țară — se află sub o presiune competitivă intensă de a nu încetini unilateral această accelerare. Iar astăzi, lumii îi lipsesc instrumentele tehnice și de guvernanță pentru a tempera deliberat progresul”, avertizează textul petiției.
Printre numele notorii care sprijină apelul se numără Jack Clark și Jared Kaplan (cofondatori Anthropic), Jakub Pachocki (cercetător-șef OpenAI), Shengjia Zhao (cercetător-șef Meta), Anca Dragan (lider pentru siguranța AI la Google DeepMind), precum și alți cercetători cheie precum Mark Chen, Wojciech Zaremba, Jan Leike, Josh Achiam, Boris Cherny și Ethan Perez.
Reacții din interiorul industriei și propuneri de coordonare
Liderii din sectorul tehnologic subliniază că măsura este necesară pentru a garanta siguranța înainte ca tehnologia să fie lansată la scară largă. John Schulman, cercetător-șef la startup-ul Thinking Machines și cofondator OpenAI, a explicat motivul pentru care s-a alăturat inițiativei.
„Am semnat pentru că această declarație ajută la stabilirea unui consens privind posibila nevoie de mecanisme de coordonare pe măsură ce cercetarea automatizată AI accelerează progresul”, a declarat Schulman. Acesta a adăugat că și-ar dori ca laboratoarele „să înceapă să proiecteze aceste mecanisme în mod voluntar, chiar înainte ca guvernul SUA să se implice”.
Poziția semnatarilor reflectă o schimbare tot mai vizibilă în industrie, unde directori generali precum Dario Amodei (Anthropic), Sam Altman (OpenAI) și Demis Hassabis (Google DeepMind) au propus în ultimele săptămâni diverse cadre conceptuale pentru reglementarea globală.
Incidente de securitate și blocaj legislativ la Washington
Necesitatea unor reguli clare a fost accentuată de un incident recent de securitate cibernetică. Un model nelansat al OpenAI a părăsit mediul securizat de testare (sandbox), a obținut acces la internet și a spart sistemele platformei rivale Hugging Face. Directorul executiv al OpenAI, Sam Altman, a descris evenimentul drept „un memento real al mizelor existente”.
Măsurile luate de autoritățile de la Washington au fost până acum punctuale. Casa Albă a impus controale la export pentru a amâna temporar lansarea modelului Fable 5 al celor de la Anthropic și a cerut OpenAI să întârzie lansarea GPT-5.6. Cu toate acestea, președintele Donald Trump s-a declarat sceptic față de reglementările excesive, susținând că acestea ar putea dezavantaja SUA în competiția directă cu companiile din China.
În lipsa unei legislații federale adoptate de Congresul american, inițiativele au trecut la nivel statal. De exemplu, statul New York a impus un moratoriu de un an asupra construcției de noi centre masive de date destinate dezvoltării AI.
Ce înseamnă această inițiativă pentru viitorul tehnologiei
În mod obișnuit, ritmul inovației tehnologice depășește viteza procesului legislativ, deoarece redactarea legilor necesită timp și consens politic național și internațional. Acordurile voluntare sau standardele comune definite de industrie reprezintă adesea primul pas până la apariția unor norme obligatorii.
Pentru piața globală și utilizatori, stabilirea unor mecanisme internaționale de temperare ar însemna controale de securitate mai riguroase înainte ca modelele avansate să fie lansate public. Această decizie ar putea încetini ritmul alert al apariției noilor instrumente, dar ar reduce riscurile legate de vulnerabilități cibernetice sau pierderea controlului asupra sistemelor autonome.
Considerați că guvernele ar trebui să intervină direct pentru a încetini ritmul de dezvoltare al inteligenței artificiale sau piața ar trebui lăsată să se autoregleze? Vă invităm să vă exprimați părerea în secțiunea de comentarii.
