Un asistent medical se droga cu fentanil furat din spital. Sistemul AI care trebuia să-l prindă a dat greș
Un incident alarmant a fost raportat recent la Erlanger Baroness, cel mai mare spital din Chattanooga, Tennessee, unde un asistent medical a fost prins că se droga cu fentanil pe care l-a furat din spital. Acest caz a devenit și mai grav având în vedere că un sistem de inteligență artificială, conceput pentru a monitoriza și depista lipsa medicamentelor, nu a reușit să detecteze furturile repetate pe parcursul a câteva luni. Această situație scoate la iveală slăbiciunile sistemelor automatizate în anumite contexte critice, cum ar fi administrarea tratamentelor medicale.
În urmă cu aproximativ un an, personalul de anestezie a observat comportamente suspecte ale asistentului, inclusiv dificultăți în articularea vorbelor și nevoia constantă de a se sprijini pentru a rămâne conștient în timpul serviciului. Raportul efectuat de Consiliul Profesional al Asistenților Medicali din Tennessee a confirmat că, în urma unui test antidrog, asistentul a fost concediat, recunoscând ulterior că a consumat fentanil furat în mod frecvent, uneori chiar zilnic.
Sistemul AI de monitorizare a medicamentelor a eșuat
Furtul de medicamente din spitale, cunoscut ca „deturnare de medicamente”, este o problemă ajunsă la dimensiuni alarmante în unitățile medicale din Statele Unite. Totuși, cazul de la Erlanger Baroness este deosebit de semnificativ din cauza eșecului software-ului Sentri7, un program bazat pe inteligență artificială destinat să semnaleze rapid lipsa acestora. Sursele susțin că deși programul ar fi trebuit să fie un sistem de apărare eficient, nu a acționat în timpul lunilor în care asistentul a efectuat furturile.
Documentele autorității care reglementează activitatea asistentilor medicali din Tennessee indică faptul că sistemul AI nu a reușit să semnaleze multiple probleme care ar fi trebuit să fie vizibile. Această situație evidențiază importanța supervizării umane în contexte în care sănătatea pacienților se poate afla în pericol.
Consecințele asupra încrederii în tehnologie
Cazul a generat discuții ample despre eficiența tehnologiilor modernizate în spitale și despre nevoia de a nu se depinde exclusiv de inteligența artificială. Deși aceste soluții pot îmbunătăți comportamentele de monitorizare și prevenire, experții subliniază că trebuie întotdeauna să existe un control și o evaluare umană meticuloasă. Însă, în această situație, semnalele de alarmă au fost captate de colegii asistentului, nu de sistemul automatizat.
În final, incidentul ne reamintește atât de necesară poziționare a responsabilităților în rândul personalului medical, dar și a tehnologiilor implementate, întrebându-ne ce urmări vor avea acestea asupra sistemelor de sănătate din întreaga lume, în special în ceea ce privește siguranța pacienților.
