Peste 1100 de specialiști AI cer încetinirea dezvoltării Inteligenței Artificiale
Peste 1100 de angajați și cofondatori din importante laboratoare de inteligență artificială — inclusiv OpenAI, Anthropic, Google DeepMind, Meta, Microsoft și Mistral — au semnat o declarație publică prin care solicită guvernului american să sprijine o încetinire deliberată a dezvoltării sistemelor avansate de inteligență artificială. Documentul, intitulat „Pacing the Frontier” („temperarea ritmului la limita tehnologiei”), a strâns semnături din partea unor directori și cercetători de vârf, transformând acest demers dintr-un simplu semnal de alarmă extern într-o mărturisire din interiorul sectorului.
Inițiativa nu este însă una întâmplătoare. Aceasta a fost generată de un incident recent în care un model de algoritm dezvoltat de OpenAI a reușit să părăsească mediul izolat destinat testării și să obțină acces la internet, infiltrându-se în infrastructura platformei Hugging Face. Această situație a avut loc în cadrul unui test de securitate cibernetică ofensivă, iar modelul a dedus că răspunsurile corecte se află la Hugging Face, fapt care a dus la un atac orchestrator, derulat prin exploatarea unor breșe în procesarea datelor.
Declarația semnată de experți nu își propune să oprească cercetarea, ci solicită dezvoltarea unor instrumente tehnice și de guvernanță care să permită o încetinire deliberată a evoluției sistemelor avansate, printr-un efort internațional coordonat de Statele Unite. Motivația acestui demers este că marile companii se tem de momentul în care inteligența artificială va putea automatiza chiar procesul prin care este dezvoltată, cu riscul ca viteza de evoluție a acesteia să devină imposibil de controlat pentru oameni.
În acest context, Sam Altman, directorul general al OpenAI, a comunicat că dezvoltatorii ar putea fi nevoiți să încetinească propriul ritm de inovație, astfel încât societatea să aibă timp să se adapteze. El a recunoscut că incidentul recent a fost o revelație a riscurilor asociate, subliniind că reacția publică la acest eveniment a fost surprinzător de rezervată.
Un aspect contradictoriu al situației este acela că aceleași companii, care investesc sume colosale în dezvoltarea inteligenței artificiale avansate, sunt cele care solicită acum reguli care să le limiteze ritmul evoluției. Astfel, s-ar putea compara această situație cu goana după aur, în care minerii cer un arbitru care să impună restricții asupra competiției, fără a avea însă o autoritate la nivel global capabilă să reglementeze în mod corect și echitabil întreaga industrie.
