Anthropic anunță reducerea cu până la 99% a datelor extrase prin atacuri de „distilare” asupra modelelor Claude
Compania americană Anthropic a anunțat că noile măsuri de securitate introduse pentru protejarea modelelor sale de inteligență artificială Claude au redus cu aproximativ 90% până la 99% cantitatea de date extrase prin atacuri de tip „distilare”. Anunțul a fost făcut public pe fondul intensificării competiției tehnologice dintre Statele Unite și China.
Atacurile de distilare permit companiilor rivale să reproducă funcționalitățile unor modele de inteligență artificială avansate într-un timp mai scurt și la costuri mai reduse, ceea ce a transformat această practică într-o preocupare majoră pentru companii precum Anthropic, OpenAI și Google.
Mecanismele de protecție limitează accesul la procesele de raționament
Potrivit Anthropic, noile mecanisme de protecție limitează accesul la procesele de raționament ale modelului Claude, reducând semnificativ posibilitatea ca rivalii să extragă informații pentru a-și dezvolta propriile sisteme. Compania susține că numărul de tokenuri asociate raționamentului, extrase de atacatori, este acum „de 10 până la 100 de ori mai mic decât înainte”.
Compania cu sediul în California a introdus și măsuri care îngreunează utilizarea rețelelor de servere intermediare pentru accesarea repetată a informațiilor protejate ale modelului Claude. Anthropic afirmă că sistemul său de securitate este „aproximativ la fel de robust precum mecanismele care îl împiedică pe Claude să ajute la dezvoltarea armelor biologice” și are o rată a rezultatelor fals pozitive de sub 0,1%.
Zeci de mii de conturi blocate
De asemenea, compania a blocat zeci de mii de conturi asociate campaniilor de distilare. Anthropic a indicat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, drept exemplu de companie care ar fi încercat să copieze capacitățile modelului Claude în timpul dezvoltării modelului GLM-5.3.
Compania americană avertizează că astfel de practici pot reprezenta riscuri pentru siguranță și pentru securitatea națională.
