Cercetătorii avertizează: un model AI dezvoltat în China ar putea fi manipulat pentru a oferi informații despre arme biologice și asasinate
Un model de inteligență artificială dezvoltat de compania chineză Moonshot AI este investigat după ce un cercetător a susținut că poate fi manipulat pentru a furniza informații despre arme biologice, asasinate și atacuri teroriste. Este vorba despre Kimi-K3, iar rezultatele testelor au determinat compania să demareze o anchetă internă.
Cercetătorul Peter Garrigan afirmă că testele sale au evidențiat vulnerabilități importante ale sistemului. Potrivit acestuia, modelul ar fi putut fi determinat să ofere informații despre dezvoltarea unor arme biologice, producerea gazului sarin și planificarea unor asasinate. Cercetătorul susține că testele au indicat și posibilitatea obținerii unor informații despre atacuri teroriste folosind date în timp real, dezvoltarea de malware și atacuri asupra aeronavelor.
„Ceea ce am descoperit este foarte îngrijorător”, a declarat Garrigan. Moonshot AI a lansat o investigație internă după apariția acestor rezultate și comunică direct cu cercetătorul.
Vulnerabilitatea nu ar fi specifică modelelor dezvoltate în China
Garrigan susține că problema identificată nu este neapărat specifică modelelor dezvoltate în China. Potrivit acestuia, și modelele AI americane prezintă probleme similare. „Este un defect fundamental al tehnologiei”, a afirmat cercetătorul.
Observația este importantă deoarece discuția nu se limitează la performanțele unui singur model. Pe măsură ce sistemele AI devin mai capabile și primesc acces la instrumente, date și servicii externe, cercetătorii analizează tot mai atent modul în care acestea pot fi manipulate pentru a produce rezultate pe care dezvoltatorii încearcă să le blocheze.
Compania verifică rezultatele testelor
Moonshot AI nu a anunțat public că rezultatele cercetătorului au fost confirmate în totalitate. Compania investighează constatările și discută direct cu Garrigan. Deocamdată, informațiile disponibile descriu rezultatele unor teste asupra comportamentului modelului și nu demonstrează că Kimi-K3 a fost folosit efectiv pentru producerea unei arme biologice, organizarea unui asasinat sau comiterea unui atac terorist.
