Varovný případ: Pacientka potřebovala akutní pomoc. AI ji poslala na konec fronty
15. 6. 2026 – 11:00 | Člověk | Radek Chlup |Diskuze:
Umělá inteligence (AI) v diagnostických testech překonává i lidské lékaře. To však neznamená, že její využívání ve zdravotnictví je bez rizika. V Brazílii vyvolal pozdvižení případ mladé ženy, která zemřela na následky neléčených žlučových kamenů. Po hospitalizaci totiž čekala pět dní na převoz na jednotku intenzivní péče. Rodina zesnulé z toho obviňuje systém AI, který přiděluje pacientům lůžka podle závažnosti jejich stavu.
K incidentu došlo v malé jihobrazilské obci São João Nepomuceno. Žena jménem Rebeca Cardoso Tenente Molinaová byla hospitalizována kvůli žlučovým kamenům. Její stav se rychle zhoršoval a vyžadoval umístění na JIP.
Asi nic vážného
Zoufalá rodina zašla tak daleko, že proti nemocnici podnikla právní kroky. Pacientka však čekala na přesun pět dní. Onemocnění nakonec podlehla. Sestra zesnulé Sâmely Cardoso Tenente Furtadová, která je zároveň právničkou rodiny, uvedla, že systém správy nemocnice s umělou inteligencí přiřadil pacientce mnohem nižší skóre závažnosti, než jaké její stav skutečně odrážel.
Varovný případ
Je to znepokojivá ukázka toho, co se může stát, když AI nahradí člověka v procesu rozhodování. „Viděli jsme, že lékaři ztratili autonomii v rozhodování o tom, zda je pacient vážně nemocný,“ popsala Furtadová. „Ten, kdo určuje, zda je pacient vážně nemocný, už není lékař, který tuto realitu s pacientem prožívá.“