OpenAI restricționează informațiile despre arme pentru adolescenții care folosesc ChatGPT
OpenAI a anunțat vineri că înăsprește restricțiile privind informațiile legate de arme pe care ChatGPT le furnizează adolescenților, inclusiv atunci când o întrebare pare inofensivă. Măsura face parte din noile măsuri de protecție menite să prevină violența, într-un context în care companiile din domeniul inteligenței artificiale se confruntă cu o atenție tot mai mare asupra riscurilor pe care chatbot-urile le prezintă pentru utilizatorii tineri.
Potrivit companiei, informațiile practice despre arme și sisteme de securitate care ar putea fi utilizate în mod abuziv vor fi restricționate, chiar și atunci când nu există semne de intenție violentă. Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare să fie obsedat de violență, iar OpenAI poate suspenda temporar conturile după mai multe astfel de conversații.
Compania a precizat că și-a îmbunătățit sistemul de estimare a vârstei pentru a redirecționa utilizatorii pe care îi estimează a avea sub 18 ani către experiența destinată adolescenților. De asemenea, OpenAI intenționează să îi notifice pe părinți în cazul în care contul adolescentului lor este suspendat pentru discutarea repetată a violenței.
Pentru toți utilizatorii, accesul la informații despre atacurile armate din trecut, în special cele în masă, va fi limitat. Printre detaliile vizate se numără informațiile despre armele folosite și despre modul în care acestea au fost obținute. Implementarea noilor măsuri de protecție va începe în următoarele câteva săptămâni și va fi perfecționată continuu.
La începutul acestei luni, OpenAI a precizat că adolescenții petrec, în medie, sub 15 minute pe zi pe ChatGPT, conform primului său raport privind utilizarea platformei de către adolescenți. Potrivit unui raport al ONG-ului Common Sense Media, publicat la începutul lunii octombrie, versiunea pentru adolescenți a ChatGPT adesea îi avertiza pe părinți prea târziu sau deloc atunci când conturile adolescenților purtau conversații despre sinucidere, automutilare sau tulburări alimentare.
