CultureMore in Culture →
Terapeutas de Kaiser dizem que novo rastreamento de IA está colocando pacientes em risco
Terapeutas em greve da Kaiser Permanente afirmam que a nova ferramenta de rastreamento de pacientes impulsionada por IA do sistema de saúde está sinalizando incorretamente pacientes em risco e os encaminhando para longe do atendimento de emergência, com clínicos relatando quase-acidentes que atribuem a erros algorítmicos.
Key Takeaways
- Terapeutas em greve da Kaiser Permanente dizem que a ferramenta de rastreamento de IA do sistema está atribuindo incorretamente pacientes suicidas a slots de baixa prioridade
- Múltiplos clínicos relatam quase-acidentes onde pacientes com indicadores de crise aguda foram atribuídos a compromissos de rotina pelo algoritmo
- Sistemas de triagem de IA treinados em dados históricos podem sistematicamente ponderar insuficientemente sinais de crise aguda em pacientes cuja linha de base difere de sua apresentação
- A disputa é provável de influenciar os requisitos de validação e supervisão para ferramentas de triagem de IA de saúde mental em outros sistemas de saúde
DE
DT Editorial AI··via theguardian.com