Studiu: Chatboții dau un diagnostic greșit în 80% din cazurile medicale inițiale
Un studiu recent, realizat de Mass General Brigham din Massachusetts și publicat în Jama Network Open, evidențiază o problemă semnificativă în utilizarea inteligenței artificiale în domeniul medical. Acesta arată că chatboții, cum ar fi ChatGPT și Gemini, au o rată de diagnostic greșit de peste 80% atunci când se confruntă cu informații incomplete ale pacienților. Aceste statistici sunt alarmante, având în vedere potențialul utilizării acestor tehnologii în îmbunătățirea îngrijirii medicale.
În cadrul acestui studiu, cercetătorii au testat 21 de modele de inteligență artificială, inclusiv cele dezvoltate de OpenAI, Anthropic, Google, xAI și DeepSeek. Chatboții au avut la dispoziție diverse viniete clinice care conțineau informații esențiale despre afecțiunile pacienților, inclusiv constatări de la consultații medicale și rezultate ale analizelor de laborator.
Experții au descoperit că nu doar atunci când nu aveau la dispoziție informații complete se raportau astfel de erori, ci și în situațiile în care aveau toate datele necesare, rata greșelilor rămânând totuși peste 40%. Aceasta sugerează că modelele nu sunt capabile să îmbine și să interpreteze corect toate aspectele medicale, chiar și atunci când sunt alimentate cu date complete. În unele cazuri, s-au observat rezultate mai favorabile, unde anumite modele au reușit să ofere un diagnostic corect pentru până la 90% dintre pacienți.
Concluzia expertului subliniază că eficiența chatboților în diagnosticarea medicală depinde într-o mare măsură de calitatea și cantitatea informațiilor disponibile. Chiar și în cele mai favorabile scenarii, aceste procese pot induce utilizatorii în eroare. Un aspect cheie al problemelor cu care se confruntă modelele de inteligență artificială este fenomenul denumit „halucinații”, unde algoritmii generează informații inexacte atunci când nu au un răspuns clar, punând astfel în pericol calitatea îngrijirii medicale.”
