Zuckerberg se opune încetinirii dezvoltării AI: „Companiile au suficiente motive să construiască în siguranță”
Mark Zuckerberg, directorul general al Meta, consideră că marile companii de inteligență artificială au suficiente motive să-și dezvolte singure sistemele de siguranță, fără a fi nevoie de o încetinire coordonată a progresului în domeniul AI. Declarația sa vine în contextul în care liderii mai multor companii din industrie cer o abordare comună pentru reducerea riscurilor asociate dezvoltării rapide a inteligenței artificiale.
Zuckerberg a susținut că fiecare laborator AI are atât responsabilitatea, cât și interesul de a-și dezvolta modelele într-un ritm compatibil cu măsurile de siguranță. În opinia sa, companiile care nu acordă suficientă atenție alinierii modelelor la obiectivele și valorile oamenilor riscă să rămână în urmă.
„Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a transmis Zuckerberg. El a adăugat că orice laborator care nu se concentrează pe această zonă va pierde teren în fața competitorilor.
Riscul juridic, un stimulent pentru siguranță
Șeful Meta consideră că riscul unor consecințe juridice reprezintă un stimulent important pentru companii. Dacă un sistem AI provoacă prejudicii, compania care l-a dezvoltat ar putea suporta consecințe financiare și juridice semnificative.
Zuckerberg a indicat drept exemplu chiar compania pe care o conduce. Meta ar fi amânat lansarea agentului AI Muse la începutul acestui an pentru a consolida măsurile de securitate. Decizia nu a fost luată pentru a aștepta o acțiune comună a industriei.
„Nu am cerut tuturor celorlalți să facă asta înaintea noastră. Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi”, a explicat acesta. Meta susține, de asemenea, că utilizează evaluatori independenți pentru mai multe componente ale sistemelor sale AI, practică descrisă de Zuckerberg drept un standard pe care și celelalte laboratoare îl pot adopta.
Declarațiile vin după apelul pentru încetinirea dezvoltării AI
Poziția lui Zuckerberg apare la doar câteva zile după ce Dario Amodei, directorul general al Anthropic, a cerut companiilor AI să încetinească ritmul de îmbunătățire a capacităților modelelor. Amodei s-a referit în special la dezvoltarea capacității AI de a contribui la propria îmbunătățire, cunoscută drept „recursive self-improvement”.
Șeful OpenAI, Sam Altman, și Elon Musk, fondatorul xAI, au susținut public apelul lui Amodei la scurt timp după declarațiile acestuia.
Zuckerberg a afirmat că „majoritatea semnificativă” a resurselor de calcul ale Meta este direcționată către dezvoltarea unor produse care răspund nevoilor imediate ale utilizatorilor. Compania nu ar concentra aceste resurse în principal asupra dezvoltării unor sisteme AI capabile de autoîmbunătățire, tocmai tipul de dezvoltare care se află în centrul îngrijorărilor exprimate de Amodei și de alți cercetători.
Dezbaterea privind reglementarea, pe fondul poziției administrației americane
Dezbaterea are loc și pe fondul unei poziții prudente a administrației americane față de noi restricții asupra industriei AI. Președintele Donald Trump a minimalizat recent temerile privind potențialele efecte negative ale inteligenței artificiale și a susținut că Statele Unite au deja mecanisme de protecție pentru această tehnologie.
Argumentul potrivit căruia reglementarea excesivă ar putea afecta competitivitatea SUA în raport cu China este împărtășit și de lideri din industria tehnologică, inclusiv de CEO-ul Nvidia, Jensen Huang. În același timp, președintele Comisiei Federale pentru Comerț din SUA, Andrew Ferguson, a avertizat că publicul ar trebui să fie „profund suspicios” față de companiile AI care solicită excepții de la legislația antitrust în timp ce cer noi reguli pentru industrie. Ferguson nu a nominalizat Anthropic, însă compania ceruse anterior permisiunea de a colabora cu rivalii pentru a încetini anumite direcții de dezvoltare AI din motive de siguranță.
