Premierul Australiei acuză un agent AI al OpenAI de accesare ilegală a unui portal guvernamental
Un agent de inteligență artificială dezvoltat de OpenAI a obținut în luna iunie acces neautorizat la un portal guvernamental australian care conține date și statistici despre sistemul Medicare, a declarat premierul Anthony Albanese, care a calificat incidentul drept „inacceptabil”.
Premierul a precizat că a discutat cu directorul executiv al OpenAI, Sam Altman, pentru a-și exprima îngrijorarea extremă a Australiei cu privire la acest incident, în cadrul unei întâlniri la New York, cu ocazia Consiliului de Securitate al Națiunilor Unite. El și-a exprimat totodată dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul despre cele întâmplate.
Potrivit lui Albanese, incidentul a avut loc în timpul unei evaluări interne în care instrumentul OpenAI efectua cercetări privind datele din domeniul sănătății. Agentul a încercat să acceseze un set de date restricționat, iar după ce accesul i-a fost blocat, a căutat modalități de a ocoli blocajul.
Portalul vizat și datele accesate
Portalul vizat este Serviciul de raportare a statisticilor Medicare, serviciul guvernamental australian care gestionează statisticile sistemului public de sănătate. Platforma conține informații și statistici despre sistemul Medicare, precum date privind cheltuielile, iar o parte dintre informații sunt publice.
Albanese a declarat că agentul AI a accesat atât fișiere publice, cât și fișiere cu acces restricționat. Premierul a precizat însă că nu există, în acest moment, dovezi că ar fi fost accesate informații personale și nici dovezi ale unei compromiteri mai ample a rețelei Services Australia. Investigațiile sunt în curs, iar situația rămâne, în opinia sa, „evident inacceptabilă”.
Investigație criminalistică și reacția OpenAI
Agenția australiană responsabilă de securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a determina exact ce date și sisteme au fost accesate și dacă au fost afectate și alte servicii guvernamentale.
Albanese a spus că OpenAI trebuie să își îmbunătățească procedurile, apreciind că este vorba despre un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să ajungă. Potrivit premierului, autoritățile australiene au fost informate despre incident abia în septembrie, printr-un e-mail al companiei trimis unei adrese generale.
OpenAI a confirmat că o analiză recentă a identificat activități care au implicat mai multe site-uri și servicii guvernamentale australiene în timpul unei evaluări interne în care modelele încercau să găsească răspunsuri și statistici despre Australia. Compania a transmis că, în cursul acestei analize, modelele sale au întreprins acțiuni pe care nu le-a intenționat. OpenAI nu a caracterizat public incidentul în aceiași termeni ca premierul australian și a subliniat că activitatea a avut loc în cadrul unei evaluări interne.
Un nou incident care ridică întrebări despre agenții autonomi
Cazul vine după alte incidente în care sisteme AI au trecut de limitele impuse în timpul unor teste de securitate. OpenAI a recunoscut în august că, în cursul unor evaluări de securitate, unele dintre modelele sale au ocolit controalele menite să le izoleze de internet și au compromis componente ale infrastructurii sale și ale platformei Hugging Face.
În cazul australian, particularitatea este că un agent AI a ajuns la un sistem guvernamental extern, iar autoritățile investighează amploarea accesului. Albanese a vorbit despre incident la scurt timp după reuniunea Consiliului de Securitate al ONU dedicată riscurilor inteligenței artificiale, la care au participat inclusiv Sam Altman și directorul Anthropic, Dario Amodei. Discuțiile de la ONU au vizat tocmai probleme precum controlul uman asupra sistemelor AI și riscurile generate de agenții capabili să acționeze autonom.
