A IA tem sido promovida como uma solução para aliviar a carga administrativa dos médicos e melhorar a experiência dos pacientes. No entanto, os testes iniciais revelam falhas preocupantes, colocando em questão sua segurança em decisões críticas para a saúde.
A promessa da IA na saúde
A inteligência artificial surge como uma ferramenta para otimizar o trabalho médico, oferecendo benefícios como:
- Redução de tarefas administrativas: A IA permite que os médicos passem mais tempo com os pacientes ao automatizar processos como transcrições e registros.
- Tradução em tempo real: Facilita o atendimento a pacientes que falam diferentes idiomas, promovendo maior acessibilidade.
Além disso, para as empresas de tecnologia, o setor de saúde representa um mercado lucrativo. No entanto, a prática clínica exige um rigor que a IA ainda não consegue garantir.
Casos de erros em diagnósticos
Testes realizados por médicos e pesquisadores destacam erros preocupantes nas respostas geradas por IA:
- Caso 1: Christopher Sharp, médico de Stanford, testou GPT-4 com uma pergunta sobre uma reação alérgica. A IA recomendou o uso de creme com esteroides nos lábios, uma indicação inadequada devido à sensibilidade do tecido labial.
- Caso 2: Roxana Daneshjou, dermatologista, questionou ChatGPT sobre mastite. A IA sugeriu calor e massagem, contrariando orientações médicas recentes que indicam compressas frias e evitar estímulos adicionais.
Um estudo aponta que cerca de 20% das respostas médicas da IA são incorretas ou perigosas, expondo os pacientes a riscos graves.
IA no atendimento médico
Embora a ideia não seja substituir médicos, a IA é usada em algumas tarefas clínicas, como transcrever consultas. Muitos médicos preferem essa tecnologia para poder se concentrar mais nos pacientes.
Contudo, mesmo em funções administrativas, erros têm ocorrido. A tecnologia Whisper, da OpenAI, por exemplo, foi flagrada adicionando informações fictícias em transcrições, como atribuir falas inexistentes a uma mãe durante uma consulta.
Um avanço ou um risco?
Diferente de outros setores, a medicina exige precisão absoluta. Um erro em diagnósticos ou tratamentos pode ter consequências fatais. Apesar do potencial da IA, sua implementação em saúde ainda precisa de maior segurança e validação.
Antes de confiar na tecnologia, vale questionar: seu médico utiliza IA nos processos de atendimento? Embora útil em algumas situações, sua aplicação ainda apresenta riscos consideráveis para decisões críticas.
