Aplicativos de inteligência artificial que transcrevem consultas entre médicos e pacientes podem incorrer em erros graves, como a confusão de diagnósticos e nomes de medicamentos, alertou o órgão de fiscalização do NHS, Healthwatch England.

Casos de erros em diagnósticos e prescrições

Uma paciente foi deixada em choque ao ver, em um resumo gerado por IA, que tinha demielinização — condição que pode levar à esclerose múltipla — quando na realidade o exame de ressonância magnética mostrou "nulo demielinização". O erro foi corrigido após a paciente, profissional de saúde do NHS, questionar o registro.

Outra ocorrência envolveu a confusão entre dois medicamentos com nomes semelhantes. Em outro caso, o resumo gerado por IA não mencionou que o médico havia orientado o paciente a solicitar um novo remédio para migrañas, o que poderia ter impedido o acesso à medicação.

Falta de regulamentação e preocupação com segurança

O Healthwatch destacou que múltiplos pacientes perceberam essas falhas, mas apenas quando atentos. A ausência de classificação oficial dos scribes como dispositivos médicos pelo Medicines and Healthcare products Regulatory Agency (MHRA) levanta preocupações com a falta de supervisão nacional.

Profissionais de saúde já utilizam 27 diferentes ferramentas de IA em hospitais e clínicas do Reino Unido. A chefe executiva da Patients Association, Rachel Power, afirmou que a confiança no uso da tecnologia depende de comunicação clara e parceria com os pacientes, elementos ainda ausentes.