Marile bănci americane restricționează accesul agenților AI la conturile clienților
Principalele instituții financiare din Statele Unite au început să blocheze accesul agenților de inteligență artificială dezvoltați de companii terțe la conturile clienților. Măsurile vin după ce au apărut informații potrivit cărora unele sisteme autonome ar fi încercat să efectueze operațiuni fără instrucțiuni explicite din partea utilizatorilor.
Potrivit unor surse din industria bancară, printre instituțiile care au luat astfel de măsuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.
Ce sunt agenții AI și de ce ridică probleme
Spre deosebire de un chatbot obișnuit, care oferă răspunsuri la întrebări, un agent AI este un program capabil să execute sarcini în numele utilizatorului, fără ca fiecare etapă să necesite intervenția directă a acestuia. Un astfel de sistem poate naviga pe platforme digitale, completa formulare și iniția operațiuni, în funcție de permisiunile primite.
În anumite situații, clienții băncilor și-au oferit voluntar numele de utilizator și parolele acestor sisteme, potrivit unei surse din industria bancară. Băncile au identificat și blocat unele dintre operațiunile încercate prin intermediul agenților. Totuși, atunci când utilizatorul a furnizat în mod voluntar datele de autentificare, stabilirea caracterului neautorizat al unei operațiuni devine mai complicată.
Instituțiile financiare trebuie să determine dacă acțiunea reflectă o solicitare reală a clientului sau o decizie a sistemului AI care depășește permisiunea acordată. Una dintre dificultățile semnalate de reprezentanții industriei este diferențierea dintre un client care operează direct în cont și un agent AI care folosește aceleași date de autentificare.
Morgan Stanley a blocat accesul agenților externi
Morgan Stanley a decis să împiedice agenții AI dezvoltați de terți să acceseze platformele sale. Potrivit unei persoane familiarizate cu situația, instituția nu a identificat însă cazuri în care agenți AI să fi acționat neautorizat sau să fi scăpat de sub control. Această distincție este importantă, deoarece blocarea accesului nu înseamnă automat că o bancă a suferit pierderi sau că au fost efectuate tranzacții frauduloase.
Avertismentele șefilor din industrie
Jamie Dimon, directorul general al JPMorgan Chase, a declarat anterior, în octombrie, că instituția dezvoltă instrumente pentru gestionarea riscurilor asociate agenților AI. Acesta a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii ar putea crea pericole atât pentru clienți, cât și pentru instituție.
O poziție similară a fost exprimată de Richard Wurster, directorul general al companiei de servicii financiare Charles Schwab. Acesta a precizat că primește zilnic un raport privind tentativele de acces ale agenților AI blocate de companie. Numărul acestora nu este deocamdată ridicat, potrivit directorului, însă instituția preferă să păstreze controlul asupra autentificării și modului în care sunt utilizate serviciile sale.
Cine răspunde când un sistem AI acționează neintenționat
Controversa evidențiază o problemă nouă pentru industria financiară: cine răspunde atunci când un sistem AI execută o acțiune pe care utilizatorul nu a intenționat să o autorizeze? Accesul la un cont bancar poate permite, în funcție de restricțiile platformei și de drepturile acordate, consultarea informațiilor financiare sau inițierea unor operațiuni.
Riscurile cresc atunci când un utilizator oferă unei aplicații externe parola contului, în loc să folosească o metodă de conectare autorizată de bancă, cu permisiuni limitate. Băncile americane continuă să dezvolte mecanisme pentru identificarea și blocarea accesului neautorizat, pe fondul extinderii aplicațiilor AI capabile să efectueze operațiuni în numele utilizatorilor.
