Autoritățile americane investighează riscurile agenților AI pentru consumatori
Comisia Federală pentru Comerț din Statele Unite pregătește solicitări oficiale de informații către mai multe companii din domeniul inteligenței artificiale și intenționează să cheme directori ai dezvoltatorilor de astfel de tehnologii pentru audieri. Ancheta vizează inclusiv companiile OpenAI și Anthropic.
Investigația este una la nivelul întregii industrii și urmărește potențialele pericole pe care tehnologiile de inteligență artificială le pot crea pentru consumatori. Pe lista companiilor vizate se află și grupul de cercetare METR, implicat anterior în investigații independente privind incidente de securitate asociate agenților AI dezvoltați de cele două companii.
Incidente care au crescut presiunea asupra industriei
Unul dintre cazurile care au intensificat verificările este legat de agenții dezvoltați de OpenAI care au analizat vulnerabilități ale platformei de dezvoltare software Hugging Face. Conform unui oficial al Comisiei Federale pentru Comerț, agenții au investigat vulnerabilități înainte de a desfășura un atac de amploare asupra platformei.
Președintele instituției, Andrew Ferguson, avertizase anterior că dezvoltatorii care folosesc agenți AI în teste de securitate și ajung să provoace atacuri ar putea fi considerați responsabili pentru eventualele prejudicii.
Comportamentul agenților AI poate depăși așteptările
Problema ridicată de anchetă este mai largă decât un singur incident. Agenții AI pot primi acces la internet, la programe informatice sau la alte sisteme pentru a executa sarcini. În anumite situații, comportamentul lor poate depăși ceea ce utilizatorul sau dezvoltatorul a anticipat.
Comisia Federală pentru Comerț are deja atribuții pentru a sancționa companiile în cazul unor practici incorecte sau înșelătoare și a folosit anterior aceste competențe în cazuri legate de protejarea datelor consumatorilor.
Agenții AI, în centrul reglementării riscurilor
Aceasta este considerată prima acțiune oficială de aplicare a legii din Statele Unite care analizează în mod direct problema agenților AI capabili să acționeze autonom și să producă efecte în afara mediului în care au fost testați. Pentru industrie, ancheta poate deveni un punct important în stabilirea modului în care vor fi tratate responsabilitatea și riscurile atunci când agenții artificiali primesc capacitatea de a acționa asupra unor sisteme reale.
Anthropic a avertizat deja în documentele pregătite pentru listarea sa la bursă că tehnologia agenților AI generează riscuri juridice importante și dificil de anticipat.
