A Agência Nacional de Proteção de Dados divulgou recentemente o primeiro relatório parcial do seu Sandbox Regulatório de Inteligência Artificial e Proteção de Dados, iniciativa criada para acompanhar, em ambiente supervisionado, projetos que utilizam IA e envolvem tratamento de dados pessoais.

Mais do que apresentar os resultados de uma iniciativa regulatória, o documento oferece sinais importantes sobre como a Autoridade começa a enxergar os desafios da inteligência artificial em setores que lidam com informações sensíveis, como a saúde.

O que é um Sandbox Regulatório?

Trata-se de um ambiente supervisionado no qual empresas podem testar soluções inovadoras enquanto a ANPD acompanha, na prática, os desafios relacionados ao uso de inteligência artificial e ao tratamento de dados pessoais.

Entre as empresas selecionadas está a Prevvine Tecnologia, desenvolvedora de uma plataforma de inteligência artificial aplicada à saúde, baseada em Large Language Models (LLMs) adaptados ao contexto brasileiro.

Nesse contexto, a presença de uma empresa do setor da saúde entre os participantes não parece ser um aspecto secundário. Ela indica que aplicações de IA voltadas à área da saúde já estão no radar da ANPD, especialmente em razão do uso de dados pessoais sensíveis e do potencial impacto dessas soluções sobre pacientes e profissionais de saúde.

Inteligência Artificial e Saúde

A saúde é um dos setores em que a combinação entre inteligência artificial e dados tende a gerar benefícios relevantes, seja na otimização de processos, no apoio à tomada de decisão ou no aprimoramento da jornada assistencial. Ao mesmo tempo, é um ambiente em que os riscos associados ao uso da tecnologia exigem atenção redobrada.

Embora o relatório não apresente conclusões regulatórias ou novas exigências formais, ele oferece um panorama valioso dos temas que a ANPD considera relevantes ao avaliar soluções de IA.

O desafio não é apenas proteger os dados pessoais

Entre os aspectos destacados pela ANPD estão a transparência das respostas geradas, a explicabilidade dos sistemas, a rastreabilidade das informações apresentadas, a possibilidade de revisão dos resultados produzidos e a clareza das informações disponibilizadas aos usuários.

Na prática, isso significa responder a perguntas como: a organização consegue identificar quais fontes de informação foram utilizadas para determinada resposta gerada pela IA? Existe um profissional responsável por validar resultados que possam impactar pacientes, beneficiários ou decisões clínicas? É possível revisar uma recomendação produzida pelo sistema e compreender como ela foi gerada? Os usuários sabem quando estão interagindo com uma ferramenta baseada em inteligência artificial e quais são seus limites de utilização?

Um aspecto que merece especial atenção é que o relatório sugere que a discussão regulatória sobre IA na saúde tende a ir além da proteção dos dados pessoais. A preocupação passa a abranger também a capacidade das organizações de demonstrar que os resultados produzidos pela IA são confiáveis, rastreáveis, passíveis de revisão e submetidos à supervisão humana adequada.

Tomemos como exemplo um sistema utilizado para apoiar a triagem de pacientes, resumir prontuários, sugerir hipóteses diagnósticas ou auxiliar na autorização de procedimentos. Nesses casos, a pergunta regulatória pode deixar de ser apenas "quais dados alimentam o sistema?" para incluir também "quais mecanismos existem para validar os resultados gerados?", "quem responde por eventuais falhas?" e "como a organização monitora os riscos associados ao uso dessa tecnologia?".

Para hospitais, clínicas, operadoras e healthtechs, esse é um sinal relevante. À medida que a inteligência artificial se torna mais presente em atividades assistenciais, e de apoio à decisão, a expectativa regulatória tende a não se limitar à segurança dos dados utilizados, mas também à forma como a tecnologia é governada dentro da organização. Em outras palavras, a adoção da IA passa a exigir não apenas controles de privacidade e proteção de dados, mas também estruturas de governança capazes de definir responsabilidades,documentar processos, supervisionar resultados e demonstrar que existe controle humano adequado sobre o uso da tecnologia.

Se antes a principal preocupação era proteger os dados utilizados pela IA, o movimento observado no Sandbox da ANPD sugere que a próxima etapa regulatória estará na capacidade das organizações de governar, auditar e supervisionar o uso dessas tecnologias.

O relatório completo pode ser acessado através do link: https://www.gov.br/anpd/pt-br/assuntos/projetos-acoes-iniciativas/sandbox/relatorios-de-monitoramento