A decisão britânica de acompanhar algoritmos em dispositivos médicos durante toda a sua utilização revela o desafio brasileiro: fiscalizar uma tecnologia que não para de mudar.

Por José Luiz Barbosa Pimenta Jr.

O Reino Unido deu um passo importante no debate sobre o uso de inteligência artificial na saúde. Em 6 de outubro, o governo aceitou 44 recomendações de uma comissão independente para atualizar a forma de regular essas tecnologias. A notícia não significa que as novas exigências já estejam valendo. Significa, porém, que o país reconheceu um problema que também precisa ser enfrentado pelo Brasil: como garantir a segurança de um dispositivo medico, com IA embarcada, que pode sofrer modificações depois de começar a ser utilizado?

O exemplo é simples. Um hospital adota um sistema de inteligência artificial para ajudar a interpretar exames. Na avaliação inicial, ele apresenta bons resultados. Meses depois, recebe uma atualização ou passa a trabalhar com dados diferentes. O desempenho continua igualmente seguro? A resposta não pode depender apenas da confiança depositada no fabricante ou de uma autorização concedida no passado, precisando estar continuamente monitorado, para melhor segurança de seu uso.

É justamente aí que a experiência britânica oferece uma contribuição relevante. As recomendações propõem uma fiscalização que acompanhe todo o ciclo de vida do sistema, com avaliação de desempenho após sua chegada aos serviços de saúde, identificação de falhas e mecanismos para controlar alterações. Também discutem como documentar versões e esclarecer responsabilidades. Trata-se de um novo marco regulatório anunciado pelo governo, cuja implementação ainda terá etapas próprias.

No Brasil, não existe um vazio de regras. A Agência Nacional de Vigilância Sanitária estabelece requisitos para a regularização de softwares classificados como dispositivos médicos, por meio da RDC 657/2022, incluindo tratamento regulatório para alterações relevantes. Há também normas profissionais para orientar a utilização da inteligência artificial na medicina, além da legislação sobre proteção de dados e das regras de responsabilidade civil. O desafio é fazer esse conjunto funcionar de maneira articulada diante de ferramentas que evoluem rapidamente.

Não seria correto afirmar que o Brasil só fiscaliza um programa quando ele chega ao mercado. Há instrumentos de tecnovigilância e deveres de acompanhamento. A diferença relevante está na necessidade de desenvolver critérios mais específicos e integrados para sistemas de IA que são atualizados, recalibrados ou utilizados em populações distintas daquela em que foram testados.

Uma solução brasileira não precisa se basear integralmente nas regras britânicas. Pode aproveitar sua lógica, de modo a definir previamente que mudanças são admissíveis, exigir evidências proporcionais ao risco, acompanhar resultados na prática e assegurar que ocorrências relevantes possam ser rastreadas. Quanto maior o potencial de dano ao paciente, maior deve ser o rigor da avaliação e contínuo monitoramento. E quanto mais transparente os mecanismos de controle do fornecedor, melhores as condições para corrigir falhas e apurar responsabilidades.

Essa discussão vai além de agências reguladoras e empresas de tecnologia. O médico precisa compreender os limites da ferramenta que utiliza. O hospital deve avaliar sua incorporação e acompanhar o desempenho, mediante processos internos de governança algorítmica. Os desenvolvedores precisam responder pela qualidade e pela segurança do produto. E o paciente deve ter seus direitos preservados, inclusive quando uma decisão clínica conta com apoio de algoritmos, firmando seu consentimento livre e informado.

A supervisão humana permanece indispensável, considerando que a inteligência artificial pode ampliar a capacidade de análise, ajudar a identificar padrões e apoiar diagnósticos, não podendo servir de justificativa para decisões automáticas, sem exame crítico do contexto clínico. Tampouco é razoável transferir toda a carga de responsabilidade ao profissional que utiliza uma tecnologia baseada em IA, sem considerar as obrigações das instituições e dos fornecedores.

Minha avaliação é que o Brasil deve aproveitar o debate aberto pelo Reino Unido para avançar em três frentes: (i) acompanhamento contínuo das ferramentas de maior risco, (ii) criação de regras transparentes para suas atualizações e (iii) melhor coordenação entre os órgãos responsáveis por produtos, prática médica e proteção de dados. Essas medidas podem fortalecer a segurança jurídica sem criar obstáculos desnecessários à inovação.

O avanço tecnológico anda de mãos dadas com a proteção ao paciente, mediante um continuo aperfeiçoamento e inovação, baseado na segurança e prudência, e sujeita à permanente verificação, sempre em prol da melhor prática médica.