Componentes essenciais para transformar iniciativas de IA em resultados concretos, seguros, escaláveis e auditáveis.

Introdução

A Inteligência Artificial deixou de ser uma promessa para se tornar uma prioridade estratégica nas organizações de saúde. Ao mesmo tempo em que cresce o interesse por suas aplicações, aumentam as dúvidas sobre como utilizá-la de forma segura e efetiva. Onde a IA realmente agrega valor? Por onde começar? Como estimular a inovação sem comprometer a segurança do paciente, a proteção dos dados e a conformidade regulatória?

Responder a essas perguntas é o primeiro passo para uma implementação bem-sucedida. Grande parte das iniciativas de IA que não alcançam os resultados esperados fracassam não pela tecnologia em si, mas pela ausência de uma estratégia clara, de critérios de priorização, de governança e de mecanismos consistentes para avaliar riscos e medir resultados.

Além dos desafios técnicos e regulatórios, existem questões igualmente decisivas: como selecionar e validar soluções de IA, definir critérios objetivos para sua adoção, promover o letramento dos profissionais envolvidos e estabelecer indicadores capazes de demonstrar o valor gerado para a organização.

Implementar Inteligência Artificial com responsabilidade exige uma abordagem estruturada que integra estratégia, processos, tecnologia, pessoas e governança. Quando esses elementos evoluem de forma coordenada, a IA deixa de ser um experimento isolado e passa a produzir ganhos sustentáveis para a instituição.

Com base na experiência prática da FOLKS em projetos de Inteligência Artificial na saúde, reunimos dez princípios que contribuem para transformar iniciativas de IA em soluções capazes de gerar valor real, reduzir riscos e sustentar resultados ao longo do tempo.

1. Comece pelo problema, não pela tecnologia. Nem tudo se resolve com IA.

Toda iniciativa de IA deve começar com uma pergunta simples: qual problema assistencial, operacional ou administrativo precisa ser resolvido? Somente depois dessa definição faz sentido avaliar se a Inteligência Artificial é, de fato, a melhor alternativa. Muitas iniciativas fracassam porque seguem a lógica inversa: parte-se de uma tecnologia disponível e busca-se um problema para justificá-la. O resultado costuma ser a automação de processos pouco relevantes ou mal estruturados, aumentando a escala das ineficiências em vez de eliminá-las.

Uma governança madura trata cada proposta como um business case. Isso significa explicitar o problema existente, estabelecer uma linha de base para comparação, definir os benefícios esperados, estimar os riscos envolvidos e avaliar se a relação entre benefício e risco justifica o investimento.

Em diversos casos, o melhor caminho não envolve IA. O redesenho de processos, a integração entre sistemas, a melhoria da qualidade dos dados ou uma simples alteração de regras de negócio podem gerar resultados superiores com menor custo e menor complexidade.

Nesse contexto, rejeitar uma iniciativa de IA quando ela não representa a solução mais adequada é uma decisão legítima de governança. O objetivo não é adotar Inteligência Artificial sempre que possível, mas utilizá-la quando ela oferecer ganhos concretos em relação às demais alternativas.

2. Desenvolva um roadmap de IA alinhado à estratégia e às prioridades da organização.

Sem um roadmap institucional, o portfólio de IA tende a se transformar em um conjunto de iniciativas isoladas, conduzidas por diferentes áreas, competindo pelos mesmos recursos e sem uma direção comum. O resultado é a fragmentação dos esforços, a dificuldade para escalar soluções e a redução do retorno sobre os investimentos.

O roadmap responde, de forma estruturada, à pergunta "por onde começar?". Sua principal função é conectar cada iniciativa às prioridades estratégicas da organização, como melhorar a eficiência operacional, reduzir glosas, ampliar o acesso aos serviços, apoiar decisões clínicas ou diminuir a carga administrativa dos profissionais.

Esse alinhamento permite priorizar projetos considerando critérios objetivos, como potencial de geração de valor, viabilidade técnica, riscos, dependências e disponibilidade de recursos.

Além de orientar a sequência de implantação, o roadmap estabelece disciplina para a gestão do portfólio. Aprovado pela alta direção e revisado periodicamente, ele define quais iniciativas seguem para execução, quais permanecem em preparação e quais deixam de ser prioritárias diante de mudanças na estratégia institucional.

Na ausência desse direcionamento, as decisões costumam ser influenciadas pela capacidade de articulação das áreas interessadas, e não pelo impacto esperado para a organização como um todo.

3. Construa governança proporcional ao risco.

A adoção acelerada da Inteligência Artificial costuma levar as organizações a dois extremos igualmente problemáticos. De um lado, a liberação indiscriminada de soluções para evitar barreiras à inovação. De outro, a criação de processos excessivamente rígidos, nos quais qualquer aplicação de IA precisa cumprir o mesmo conjunto de exigências, independentemente do risco envolvido.

Nenhuma dessas abordagens é sustentável. A primeira amplia a exposição da organização a riscos técnicos, assistenciais, regulatórios e reputacionais. A segunda reduz a capacidade de inovação ao impor o mesmo nível de controle a aplicações com impactos completamente diferentes.

Um assistente conversacional para agendamento, por exemplo, não deve seguir o mesmo processo de aprovação de um algoritmo utilizado como apoio à decisão diagnóstica. Embora ambos utilizem IA, os riscos envolvidos são significativamente distintos.

Uma governança eficaz adota o princípio da proporcionalidade. Cada solução deve ser classificada de acordo com seu nível de criticidade, considerando fatores como contexto de uso, grau de autonomia da IA, impacto potencial sobre pacientes e profissionais, possibilidade de supervisão humana e consequências de uma eventual falha.

A partir dessa classificação, os controles passam a ser proporcionais ao risco. Soluções de maior criticidade exigem validação clínica robusta, monitoramento contínuo, supervisão humana obrigatória, critérios formais de aprovação e planos de contingência. Aplicações de menor risco podem seguir processos mais simplificados, preservando a agilidade sem abrir mão da segurança.

Essa abordagem permite que a governança cumpra seu papel de reduzir riscos e viabilizar a inovação, em vez de se tornar um obstáculo para sua adoção.

4. Construa uma base sólida de dados, arquitetura e infraestrutura tecnológica.

O desempenho de qualquer solução de Inteligência Artificial depende diretamente da qualidade dos dados que a alimentam e da infraestrutura que a sustenta. Modelos treinados ou operando sobre dados incompletos, registros fragmentados, cadastros duplicados, terminologias inconsistentes ou integrações frágeis podem apresentar bons resultados em demonstrações, mas tendem a perder desempenho quando inseridos na rotina assistencial.

Antes de colocar uma solução em produção, a instituição deve avaliar se sua base tecnológica oferece condições para sustentar a IA com segurança e confiabilidade. Algumas perguntas são fundamentais:

• Os dados estão disponíveis, íntegros, atualizados e representam adequadamente a população que será atendida?
  

• Existe rastreabilidade suficiente para identificar a origem dos dados utilizados nas recomendações do modelo?
  

• Há controles de acesso, trilhas de auditoria e mecanismos de anonimização ou pseudoanonimização compatíveis com a LGPD?
  

• A arquitetura contempla medidas de proteção contra ameaças específicas de IA, como data poisoning, prompt injection, model inversion e vazamento de informações por inferência?
  

• A organização consegue registrar e reproduzir, quando necessário, cada recomendação ou decisão apoiada pela IA para fins de auditoria, investigação e aprendizado?

Responder afirmativamente a essas questões significa construir uma base capaz de sustentar o crescimento das iniciativas de IA. Sem essa fundação, a governança permanece apenas formal, enquanto os riscos operacionais continuam presentes.

5. Promova letramento em IA para acelerar a adoção, fortalecer a confiança e estimular o uso responsável.

A tecnologia, por si só, não garante uma implementação bem-sucedida. Um dos principais fatores de risco está na forma como as pessoas compreendem — ou deixam de compreender — o funcionamento das soluções de IA.

Letramento em Inteligência Artificial significa assegurar que cada profissional conheça, de acordo com seu papel na organização, o que a ferramenta faz, quais problemas ela foi projetada para resolver, quais são suas limitações, quais riscos estão associados ao seu uso e em quais situações suas recomendações devem ser questionadas.

Essa competência deve ser desenvolvida de forma contínua e em diferentes níveis.

Uma estrutura de capacitação consistente normalmente contempla:

• formação básica obrigatória para todos os colaboradores, abordando conceitos fundamentais, limitações, políticas institucionais e uso responsável da IA;
  

• treinamento específico para cada solução implantada, realizado antes do início da operação e atualizado sempre que ocorrerem mudanças relevantes;
  

• capacitação direcionada às lideranças e ao comitê de governança de IA;
  

• exercícios de resposta a incidentes baseados em cenários reais;
  

• ações educativas voltadas a pacientes e familiares, utilizando linguagem compatível com seu nível de conhecimento.

Além de aumentar a confiança dos usuários, o letramento reduz um risco crescente nas organizações: a Shadow AI, caracterizada pelo uso não autorizado de ferramentas públicas de Inteligência Artificial para processar informações institucionais ou dados sensíveis.

Esse comportamento dificilmente é eliminado apenas por meio de proibições. Ele tende a diminuir quando a organização oferece alternativas corporativas seguras, estabelece políticas claras e garante que todos compreendam os riscos envolvidos.

6. Trate as implantações de IA com a mesma criticidade de uma implantação estratégica.

Ainda é comum tratar soluções de Inteligência Artificial como ferramentas complementares, de implantação simples e impacto limitado. Na prática, porém, aplicações de IA que apoiam processos assistenciais ou administrativos alteram fluxos de trabalho, redistribuem responsabilidades, criam novos pontos de decisão e introduzem novos modos de falha.

Em outras palavras, a implantação de IA não representa apenas a adoção de uma tecnologia. Ela modifica a forma como a organização opera.

Por isso, iniciativas de IA devem seguir o mesmo nível de disciplina empregado em projetos estratégicos, como implantação de HIS, ERP ou outras plataformas críticas.

Antes da entrada em produção, alguns elementos precisam estar formalmente definidos:

• patrocínio executivo claramente estabelecido;
  

• responsável de negócio e responsável técnico oficialmente designados;
  

• escopo da solução e critérios objetivos de sucesso;
  

• plano de integração com os sistemas existentes;
  

• plano de contingência para indisponibilidade ou falhas relevantes;
  

• procedimento formal para suspensão ou descontinuação da solução;
  

• modelo de gestão da solução, contemplando regras de uso, monitoramento, indicadores de desempenho, gestão de mudanças e definição clara de responsabilidades.

Quando esses elementos são negligenciados, aumenta significativamente o risco de decisões sem responsável definido, dificuldades na gestão de incidentes, perda de governança e redução do valor gerado pela solução ao longo do tempo.

Uma iniciativa de IA não deve chegar à produção sem um responsável formal por seus resultados, pela evolução da solução e pelo gerenciamento dos riscos associados.

7. Invista em gestão de mudanças para impulsionar o engajamento e reduzir resistências.

Assim como ocorre em projetos de implantação ou migração de um HIS, o principal desafio da adoção da Inteligência Artificial costuma estar nas pessoas, e não na tecnologia. A resistência do corpo clínico e das equipes assistenciais frequentemente decorre de preocupações legítimas: perda de autonomia, aumento da carga de trabalho, falta de transparência sobre o funcionamento da solução ou insegurança quanto às responsabilidades em caso de falha.

A gestão de mudanças deve começar antes da implantação. Os profissionais que utilizarão a solução precisam participar da sua concepção, validação e evolução, contribuindo para que a IA seja incorporada ao fluxo de trabalho de forma coerente com a prática clínica e operacional.

Também é fundamental deixar claro que a Inteligência Artificial apoia a tomada de decisão, mas não substitui o julgamento profissional. Sempre que o contexto justificar, o usuário deve manter autonomia para discordar da recomendação da IA e adotar outra conduta.

Uma estratégia consistente de gestão de mudanças inclui:

• envolvimento das áreas usuárias desde as etapas iniciais do projeto;
  

• comunicação clara sobre os objetivos da solução, os benefícios esperados e as mudanças no processo de trabalho;
  

• definição transparente de papéis, responsabilidades e limites de atuação da IA;
  

• canais permanentes para coleta de feedback, relato de incidentes e sugestões de melhoria, preferencialmente sustentados por uma cultura não punitiva;
  

• acompanhamento da adoção após a implantação, identificando dificuldades e oportunidades de aperfeiçoamento.

Como soluções de IA evoluem continuamente, a gestão de mudanças também precisa ser contínua. Contar com profissionais de referência nas diferentes áreas da organização facilita a disseminação das boas práticas, acelera a adoção e fortalece a confiança na tecnologia.

8. Valide a solução no seu contexto local antes de escalar.

Uma solução de Inteligência Artificial validada em outra instituição não está automaticamente validada para a sua realidade. Diferenças no perfil epidemiológico da população, nos processos assistenciais, na qualidade dos dados, na infraestrutura tecnológica e na forma de utilização podem alterar significativamente o desempenho do modelo.

As métricas divulgadas pelo fornecedor representam um ponto de partida, não uma garantia de desempenho no ambiente onde a solução será utilizada.

A validação local consiste em avaliar o comportamento da IA utilizando dados, fluxos de trabalho e condições reais de operação da instituição. O objetivo é verificar se os resultados observados permanecem compatíveis com os requisitos clínicos, operacionais e regulatórios definidos para aquele contexto.

Essa avaliação deve considerar diferentes dimensões de desempenho, entre elas:

• métricas técnicas, como disponibilidade, estabilidade e tempo de resposta;
  

• métricas clínicas, como acurácia, sensibilidade, especificidade e valor preditivo, quando aplicáveis;
  

• desempenho entre diferentes grupos populacionais, identificando possíveis vieses ou desigualdades;
  

• impacto operacional sobre os fluxos de trabalho;
  

• percepção e satisfação dos profissionais que utilizam a solução.

Nesse processo, o Applied Model Card, proposto pela Coalition for Health AI (CHAI), constitui um importante instrumento de documentação. Ele reúne informações sobre o uso pretendido da solução, dados utilizados, métricas de desempenho, limitações conhecidas, aspectos de equidade e condições para sua utilização responsável.

A validação local não deve ser encarada como uma etapa burocrática, mas como um mecanismo para reduzir riscos, aumentar a confiança dos usuários e gerar evidências de que a solução produz valor na realidade específica da organização.

9. Avalie o impacto em relação ao cenário anterior para comprovar a geração de valor. Não busque a perfeição, mas a melhoria contínua.

O sucesso de uma iniciativa de Inteligência Artificial não pode ser medido apenas pelo funcionamento da tecnologia. O que importa é o impacto que ela produz em relação ao cenário existente antes da implantação.

Por isso, uma das etapas mais importantes ocorre antes do início do projeto: estabelecer uma linha de base. Somente conhecendo a situação anterior é possível demonstrar, de forma objetiva, se a IA gerou benefícios relevantes para a organização.

Os indicadores devem refletir os objetivos definidos no business case e podem incluir resultados assistenciais, operacionais, financeiros ou relacionados à experiência dos usuários, como:

• redução do tempo para emissão de laudos;
  

• diminuição de glosas;
  

• aumento da adesão a protocolos clínicos;
  

• melhoria de desfechos assistenciais;
  

• redução do tempo dedicado a atividades administrativas;
  

• aumento da produtividade das equipes;
  

• satisfação dos profissionais e pacientes.
  

A comparação deve sempre considerar o desempenho anterior da instituição, e não um cenário idealizado.

Buscar soluções perfeitas como condição para aprovação costuma produzir o efeito contrário ao esperado: impede a adoção de iniciativas capazes de gerar benefícios relevantes, enquanto posterga ganhos concretos em busca de um desempenho muitas vezes inalcançável.

O critério adequado combina três elementos: melhoria comprovada em relação à linha de base, riscos conhecidos e controlados e compromisso permanente com a evolução da solução. Dessa forma, a organização substitui a lógica da perfeição pela lógica da melhoria contínua, baseada em evidências.

10. Monitore continuamente as soluções e o portfólio de IA para garantir desempenho, segurança e governança.

Diferentemente de um software tradicional, uma solução de Inteligência Artificial pode perder desempenho ao longo do tempo sem apresentar falhas evidentes. Mudanças no perfil dos pacientes, nos processos assistenciais, na qualidade dos dados ou no contexto operacional podem fazer com que um modelo continue produzindo respostas plausíveis, mas progressivamente menos confiáveis.

Esse fenômeno, conhecido como drift, representa um dos principais riscos da IA em produção justamente por sua natureza silenciosa. Sem monitoramento contínuo, a degradação do desempenho pode permanecer despercebida por longos períodos, comprometendo a qualidade das decisões apoiadas pela tecnologia.

Por essa razão, a entrada em produção não representa o fim da implantação, mas o início de um ciclo permanente de governança.

Esse acompanhamento deve contemplar, de forma contínua:

• monitoramento de indicadores técnicos, clínicos, operacionais e de equidade;
  

• definição de limites objetivos para acionamento de revisões, revalidações ou intervenções na solução;
  

• acompanhamento de eventos adversos, incidentes e quase-erros por meio de canais formais de registro e investigação;
  

• reclassificação do nível de risco sempre que houver alterações relevantes no modelo, nos dados utilizados ou no contexto de aplicação;
  

• revisão periódica da aderência às políticas institucionais e aos requisitos regulatórios;
  

• avaliação contínua da geração de valor para a organização.
  

A governança também deve ser exercida em nível de portfólio. À medida que novas soluções são incorporadas, torna-se necessário acompanhar sua contribuição para os objetivos estratégicos da instituição, evitando sobreposições, redundâncias e iniciativas que deixaram de produzir benefícios relevantes.

Assim como uma solução precisa ser aprovada com base em critérios objetivos, sua descontinuação também deve ocorrer quando deixar de entregar valor, apresentar riscos incompatíveis com seu benefício ou deixar de atender às necessidades da organização.

A maturidade em IA não se mede pelo número de soluções implantadas, mas pela capacidade institucional de mantê-las seguras, eficazes e alinhadas aos objetivos estratégicos ao longo do tempo.

Considerações finais

Os dez princípios apresentados demonstram que a adoção da Inteligência Artificial na saúde vai muito além da escolha de modelos ou ferramentas. Trata-se de uma transformação organizacional que exige estratégia, governança, infraestrutura, processos, capacitação e acompanhamento contínuo.

Há um componente estrutural, responsável por estabelecer diretrizes, papéis, critérios de priorização, classificação de riscos e mecanismos de decisão. Existe também um componente operacional, que envolve monitoramento permanente, resposta a incidentes, reavaliação das soluções, atualização dos controles e gestão ativa do portfólio de IA.

Esses dois componentes são complementares. Uma organização pode adquirir as melhores tecnologias disponíveis, mas dificilmente obterá resultados consistentes se não desenvolver capacidades internas para governar sua utilização ao longo do tempo.

Nesse contexto, a publicação da Resolução CFM nº 2.454/2026 reforça a importância de uma abordagem estruturada para a adoção da Inteligência Artificial na saúde. Instituições que já possuem governança estabelecida, processos de avaliação, classificação de risco e mecanismos de monitoramento estarão mais preparadas para atender às exigências regulatórias e, ao mesmo tempo, acelerar a adoção da IA com maior segurança, previsibilidade e menor necessidade de retrabalho.

Quando bem estruturada, a governança não limita a inovação. Ela cria as condições necessárias para que a Inteligência Artificial seja incorporada de forma segura, sustentável e escalável, gerando valor contínuo para pacientes, profissionais e organizações.

A FOLKS apoia instituições de saúde em todas as etapas dessa jornada, desde a definição da estratégia e da governança de IA até a construção de roadmaps, avaliação de soluções e fornecedores, desenvolvimento de business cases, mensuração de resultados e monitoramento contínuo das soluções e do portfólio de Inteligência Artificial.