A inteligência artificial já deixou de ser uma promessa distante dentro dos hospitais. Atualmente, sistemas baseados em IA auxiliam desde triagens automatizadas até análises de exames, predição de riscos clínicos e apoio à tomada de decisão médica.
O avanço acelerado dessas tecnologias, no entanto, abriu um debate cada vez mais urgente na área da saúde: quem é responsável quando a inteligência artificial erra dentro de um hospital?
A discussão envolve médicos, hospitais, empresas de tecnologia, órgãos reguladores e especialistas em direito médico. Em um cenário no qual algoritmos passam a influenciar decisões clínicas sensíveis, cresce também a preocupação com falhas, vieses e ausência de regulamentações mais específicas.
Casos internacionais acendem alerta sobre riscos da IA médica
Nos últimos anos, episódios envolvendo sistemas de inteligência artificial na saúde passaram a chamar atenção da comunidade médica internacional.
Um dos casos mais discutidos ocorreu nos Estados Unidos com o Epic Sepsis Model, ferramenta utilizada para identificar pacientes com risco de sepse em hospitais norte-americanos. Um estudo publicado na revista científica JAMA Internal Medicine apontou que o sistema apresentou baixa capacidade de identificar corretamente pacientes em risco, deixando de reconhecer casos importantes.
Outro episódio envolveu algoritmos utilizados por operadoras de saúde americanas que, segundo pesquisas publicadas na revista Science, apresentavam viés racial na priorização de pacientes, favorecendo pessoas brancas em detrimento de pacientes negros com condições clínicas equivalentes.
Os casos reforçaram um ponto central do debate atual: sistemas de IA podem reproduzir falhas, vieses históricos e limitações dos próprios dados utilizados em seu treinamento.
No Brasil, cenário ainda é marcado por indefinições
No contexto brasileiro, especialistas avaliam que a regulamentação ainda não acompanha a velocidade de implementação das tecnologias.
Atualmente, quando ocorre um erro relacionado ao uso de inteligência artificial em ambiente hospitalar, forma-se uma cadeia complexa de responsabilidades envolvendo:
- médico que utilizou a ferramenta;
- hospital que implementou o sistema;
- empresa desenvolvedora da tecnologia;
- gestores responsáveis pela validação clínica.
O Conselho Federal de Medicina (CFM) já se manifestou sobre o tema ao afirmar que a responsabilidade técnica da decisão médica não pode ser transferida à inteligência artificial.
Ainda assim, juristas e especialistas em saúde digital apontam que a questão vai além da responsabilidade individual do médico.
A Agência Nacional de Vigilância Sanitária (Anvisa) também vem ampliando discussões relacionadas à regulamentação de softwares médicos e sistemas de apoio à decisão clínica, principalmente aqueles classificados como dispositivos médicos baseados em software.
O risco do “automation bias” preocupa especialistas
Um dos fenômenos mais debatidos atualmente é o chamado automation bias, termo utilizado para descrever a tendência de profissionais confiarem excessivamente em decisões automatizadas.
Na prática clínica, isso significa que médicos e equipes podem acabar aceitando recomendações de algoritmos sem questionamento crítico, especialmente em ambientes hospitalares de alta demanda e sobrecarga assistencial.
Especialistas alertam que esse comportamento pode aumentar riscos diagnósticos e terapêuticos.
Além disso, sistemas de IA podem apresentar desempenho diferente dependendo do perfil populacional, infraestrutura hospitalar ou contexto clínico no qual são utilizados.
Responsabilidade compartilhada ganha força no debate
Diante da complexidade do tema, cresce entre especialistas o entendimento de que a responsabilidade sobre o uso da IA em hospitais deve ser compartilhada.
Nesse modelo:
- o médico mantém a responsabilidade pela decisão clínica final;
- o hospital responde pela validação, governança e implementação segura da ferramenta;
- o fornecedor deve garantir transparência, desempenho e clareza sobre limitações do sistema.
A proposta busca evitar tanto a transferência integral da culpa ao profissional de saúde quanto a utilização irrestrita de tecnologias sem supervisão adequada.
Governança e validação passam a ser prioridade
Com o avanço da IA na saúde, hospitais começam a discutir estruturas internas específicas para governança tecnológica.
Entre as estratégias apontadas como fundamentais estão:
- criação de comitês multidisciplinares;
- validação clínica dos algoritmos;
- monitoramento contínuo de desempenho;
- auditoria de resultados;
- treinamento das equipes;
- protocolos de segurança digital e assistencial.
Especialistas defendem que o uso da inteligência artificial na saúde exige acompanhamento permanente, principalmente em aplicações consideradas de alto risco clínico.
IA não substitui o julgamento médico
Embora a inteligência artificial tenha ampliado a capacidade de análise de dados e automatização de processos hospitalares, entidades médicas reforçam que a tecnologia não substitui o julgamento clínico humano.
Na prática, os algoritmos devem funcionar como ferramentas de apoio à decisão — e não como substitutos da avaliação médica individualizada.
O debate sobre responsabilidade jurídica tende a crescer nos próximos anos à medida que a IA se torna mais presente na rotina hospitalar.
Para especialistas, a principal prioridade agora é construir regras claras, mecanismos de supervisão e modelos seguros de implementação.
Porque, no ambiente hospitalar, erros não afetam apenas sistemas: afetam diretamente a vida dos pacientes.
