Umelá inteligencia má lekárom pomáhať, nie rozhodovať o tom, kto sa k nevyhnutnej starostlivosti dostane ako prvý. Tragický prípad z Brazílie však otvoril presne túto otázku. Rodina 32-ročnej ženy tvrdí, že nový systém nesprávne vyhodnotil závažnosť jej stavu a výrazne oddialil presun na jednotku intenzívnej starostlivosti.
Rebeca Cardoso Tenente Molina bola prijatá do nemocnice v meste São João Nepomuceno v brazílskom štáte Minas Gerais. Pôvodne mala vyhľadať pomoc pre problémy spojené so žlčovými kameňmi, jej zdravotný stav sa však začal rýchlo zhoršovať.
Lekári požiadali o jej presun do nemocnice s dostupnou jednotkou intenzívnej starostlivosti. Rebeca naň napokon čakala päť dní. Zomrela len niekoľko hodín po tom, ako sa na JIS konečne dostala.
Podľa rodiny mala byť desiatka. Systém jej dal 6,8
Minas Gerais krátko pred prípadom zaviedol nový systém Core Saúde MG, ktorý pomáha spracovávať žiadosti o hospitalizáciu a prideľovať pacientom prioritu. Pracuje s klinickými údajmi a vytvára prvotné hodnotenie závažnosti prípadu.
Rodina tvrdí, že práve toto hodnotenie Rebece uškodilo. Jej sestra a právna zástupkyňa Sâmela Cardoso Tenente Furtado pre brazílsku televíziu MG1 uviedla, že zdravotný stav pacientky zodpovedal najvyššej úrovni závažnosti.
„Mala byť na úrovni 10, systém jej však dovolil iba 6,8. Nemohla sa tak v poradí posunúť, pretože pacient so skóre 8 alebo dokonca 6,9 sa dostal pred ňu,“ vysvetlila.
Podľa rodiny nebolo možné skóre dostatočne zvýšiť ani po tom, ako nové výsledky vyšetrení ukazovali ďalšie zhoršovanie stavu. Príbuzní sa preto obrátili aj na súd a snažili sa nemocničný presun urýchliť právnou cestou.
Pacientku nakoniec previezli do približne 300 kilometrov vzdialeného mesta Oliveira. Ako príčina smrti bol predbežne uvedený septický šok. Lekári zároveň preverovali, či v prípade nemohlo zohrať úlohu aj iné ochorenie vrátane botulizmu.
Lekári podľa sestry stratili kontrolu
Rodina systému vyčíta najmä to, že o poradí pacientov podľa nej prestal rozhodovať lekár, ktorý človeka vidí priamo pred sebou. Namiesto toho mal byť odkázaný na výsledok centrálneho procesu a hodnotu pridelenú pacientovi v systéme.
„Lekári stratili autonómiu rozhodnúť, či je pacient vo veľmi vážnom stave. Človek už nie je iba pacientom, ale číslom a protokolom vloženým do systému,“ tvrdí Sâmela.
Práve možnosť ľudského zásahu je pri podobných systémoch kľúčová. Algoritmus dokáže rýchlo porovnať tisíce žiadostí a upozorniť na rizikové prípady, no vychádza len z údajov, ktoré dostane, a z pravidiel, podľa ktorých bol navrhnutý.
Ak zdravotníci nevedia jeho výpočet jednoducho spochybniť alebo zmeniť, pomocný nástroj sa môže v praxi zmeniť na autoritu. Zodpovednosť však naďalej zostáva na nemocniciach, zdravotníkoch a prevádzkovateľovi systému.
Úrady tvrdia, že konečné slovo má lekár
Zdravotnícke úrady štátu Minas Gerais odmietajú, že by Core Saúde MG samostatne rozhodoval o živote pacientov. Systém podľa nich vytvára iba prvotné indikátory priority a každú požiadavku následne posudzujú regulační lekári.
Pri prideľovaní lôžka sa má zohľadňovať klinický stav pacienta, potrebné vybavenie nemocnice aj reálna dostupnosť vhodného miesta. Samotná geografická vzdialenosť preto nemusí byť rozhodujúcim faktorom.
Štát nový systém zároveň obhajuje výsledkami z prvého mesiaca. Core Saúde MG mal spracovať viac než 120-tisíc pacientov, pričom pri vyššom počte žiadostí údajne klesla priemerná čakacia doba aj počet úmrtí oproti rovnakému obdobiu predchádzajúceho roka.
