OMS alerta sobre uso de ChatGPT para a saúde e outras inteligências artificiais

A Organização Mundial da Saúde – OMS divulgou um comunicado nesta semana em que pede cautela no uso do ChatGPT e de outras ferramentas de inteligência artificial que podem causar riscos para o bem-estar humano e para a saúde pública. A seguir, entenda quais são as preocupações da agência. 

Veja também: Dietas ou treinos elaborados pelo Chat GPT são seguros?

Inseguranças da OMS quanto ao uso do ChatGPT para a saúde

Segundo a organização, a adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, atrasar os potenciais benefícios e usos de longo prazo dessas tecnologias em todo o mundo.

Na nota publicada na terça-feira (16), a entidade listou os seguintes pontos de atenção: 

• Ferramentas de inteligência artificial geram respostas que podem parecer confiáveis ​​e plausíveis para um usuário final. Assim, isso acontece devido a capacidade de gerar respostas com simulação de comunicação humana e de forma compreensível. Porém, essas respostas podem estar completamente incorretas ou conter erros graves, especialmente para temas relacionados à saúde.

• LLMs podem ser treinados em dados para os quais o consentimento pode não ter sido fornecido anteriormente. Além disso, essas ferramentas não necessariamente protegem dados confidenciais, incluindo de saúde, que um usuário fornece para gerar uma resposta.

• LLMs podem ser utilizados para gerar e disseminar desinformação altamente convincente na forma de texto, áudio ou vídeo. Portanto, esses recursos dificultam a missão do público de diferenciar conteúdo falso de conteúdo confiável.

Diante disso, a OMS alerta que a IA não possui mecanismos de controle que permitam a transparência e veracidade das informações divulgadas. Nesse ponto, a organização fez ainda um apelo em que incentiva a adoção de políticas de segurança para proteger pacientes do mal uso das ferramentas de IA. E sugere ainda a inclusão das plataformas de inteligência artificial a valores como transparência, inclusão, engajamento público, supervisão especializada e avaliação rigorosa.

Dessa forma, a OMS propõe que essas preocupações sejam abordadas com base em evidências. Portanto, uma análise de riscos e benefícios deve preceder o uso generalizado em cuidados de saúde e medicina de rotina, seja por indivíduos, prestadores de serviços e formuladores de políticas.

Oportunidades da IA para a saúde 

Por fim, embora tenha alertado sobre os riscos da AI para a saúde, a OMS também se diz “entusiasmada” com os avanços tecnológicos que podem apoiar profissionais de saúde. “As novas plataformas podem ser uma ferramenta de apoio às decisões médicas e aumentar a capacidade de diagnóstico em ambientes com poucos recursos. O foco deve estar em proteger a saúde das pessoas e reduzir a desigualdade”, aponta.