ChatGPT și „obsesia pentru goblini”: Cum a ajuns un bug de personalitate să influențeze răspunsurile AI
Un comportament neașteptat al sistemului ChatGPT a determinat compania OpenAI să intervină în modul în care funcționează modelele sale de inteligență artificială. Utilizatorii au observat că acesta utiliza frecvent referințe la creaturi fantastice, în special „goblini”, ceea ce a dus la o serie de ajustări pentru a corecta aceste anomalii. Această „obsesie” pentru goblini a fost observată mai ales în cazul sistemului Codex, cunoscut pentru generarea de coduri. Astfel, ChatGPT a început să descrie erorile de programare ca fiind „mici goblini” și s-a autodefinit în unele situații ca un „goblin cu torță” care caută erori în codurile generate.
Problema nu a fost introdusă intenționat, ci rezultatul modului în care modelul a fost antrenat și evaluat. Aceasta a fost confirmată de un raport al publicației Il Post, care a evidențiat modul în care aceste referințe au ajuns în sistem fără ca dezvoltatorii să le fi planificat. De la începutul lunii noiembrie 2025, OpenAI a observat o creștere semnificativă a utilizării termenilor precum „goblin” și „gremlin”. Deși inițial nu au existat semne de alarmă, situația a evoluat după lansarea modelului GPT-5.4, când utilizarea acestor termeni a crescut cu peste 3.800% comparativ cu versiunile anterioare.
Investigațiile interne efectuate de OpenAI au arătat că această situație a fost legată de personalitatea „Nerd” a chatbotului, care încuraja răspunsuri creative și neobișnuite. Pe măsură ce sistemul de evaluare favoriza elemente din cultura fantasy, modelul a început să utilizeze aceste referințe din ce în ce mai frecvent, datorită feedback-ului pozitiv pe care îl primea în urma acestor răspunsuri. Aceasta interconectare între diversele moduri de funcționare ale AI a contribuit la extinderea problemei.
În încercarea de a corecta această anomaliu, OpenAI a decis să elimine complet personalitatea „Nerd” și a modificat sistemele interne de evaluare. Compania a introdus noi reguli care interzic menționarea creaturilor fantastice, precum goblini, troli sau orci, cu excepția cazurilor în care acestea sunt strict relevante pentru contextul discuției. OpenAI a subliniat că aceste ajustări sunt necesare pentru a menține coerența și utilitatea răspunsurilor generate de inteligența artificială.
