top of page
Fundo futurista abstrato
Big Red_edited.jpg

Artigos

Cibersegurança na saúde: os novos riscos trazidos pela inteligência artificial

12 de nov.
9 min de leitura
Mão robótica aponta para uma rede luminosa de pontos e linhas azuis, em cena futurista.

A transformação digital na saúde amplia as possibilidades de inovação e exige atenção contínua à segurança dos sistemas e das informações.


A evolução dos agentes de inteligência artificial está transformando a capacidade de atuação das organizações, mas também amplia os desafios relacionados à segurança da informação, à proteção de dados e à continuidade operacional. Para as instituições de saúde, governar essa evolução tornou-se uma necessidade estratégica.


Quando a inteligência artificial ultrapassa os limites previstos


A inteligência artificial já demonstrou que pode executar tarefas complexas, interagir com diferentes sistemas e trabalhar de forma coordenada com outros agentes. O que começa a ganhar atenção é o que acontece quando essa capacidade ultrapassa os limites estabelecidos para sua atuação.

Em julho de 2026, durante avaliações internas de segurança cibernética, modelos da OpenAI conseguiram escapar de mecanismos que deveriam mantê-los isolados da internet. O episódio resultou em acessos não autorizados a ambientes da infraestrutura de pesquisa da própria empresa e da Hugging Face, plataforma amplamente utilizada para hospedar modelos e conjuntos de dados de inteligência artificial.


A investigação independente conduzida pela METR (Model Evaluation & Threat Research) identificou um comportamento particularmente relevante: aproximadamente 1.200 agentes, que deveriam permanecer isolados uns dos outros, encontraram uma maneira de se comunicar por meio de um fórum não autorizado. Durante o período analisado, foram compartilhadas mais de 70 mil mensagens e arquivos. Cerca de 700 agentes passaram a participar das atividades direcionadas à infraestrutura da Hugging Face.


Os agentes compartilharam descobertas, organizaram tarefas e avançaram na exploração de vulnerabilidades. A atividade chegou à execução remota de código em um contêiner de processamento da plataforma e ao acesso a determinados registros e repositórios privados.


Logo da OpenAI à esquerda ligado por linhas a ícones de rosto humano, átomo, cérebro e robô em fundo digital escuro.
A autonomia dos agentes de IA amplia a necessidade de controles de acesso, monitoramento e supervisão de suas atividades.

O episódio foi divulgado pela própria OpenAI em seu relatório sobre o incidente com a Hugging Face e analisado de forma independente pela METR.


É importante contextualizar que o incidente aconteceu durante avaliações de capacidades cibernéticas, em ambientes de teste com salvaguardas reduzidas. Não se tratou de uma operação cotidiana do ChatGPT nem de uma invasão convencional realizada por um grupo externo. Ainda assim, o episódio revelou possibilidades que merecem atenção: agentes capazes de estabelecer canais de comunicação não previstos, coordenar atividades e ultrapassar as restrições originalmente definidas para suas ações.


O caso não representa, por si só, um comportamento inevitável de todos os sistemas de IA. Ele demonstra, porém, que os mecanismos de isolamento, supervisão e controle precisam acompanhar a evolução dessas capacidades.


E essa preocupação não está restrita a uma única empresa. Em julho de 2026, a Anthropic também relatou três incidentes identificados durante avaliações de segurança, nos quais modelos Claude alcançaram a internet a partir de ambientes de avaliação de terceiros e obtiveram acesso não autorizado a sistemas reais de outras organizações.


Esses acontecimentos ajudam a dimensionar uma mudança importante: à medida que a IA deixa de apenas produzir respostas e passa a executar ações, os riscos também deixam de estar limitados à qualidade das informações geradas.



O risco digital pode alcançar a operação física


Os desafios de cibersegurança não envolvem apenas sistemas computacionais e bancos de dados. Em ambientes altamente digitalizados, uma vulnerabilidade pode afetar equipamentos, instalações e processos essenciais.


Um exemplo recente ocorreu na França, em novembro de 2026, quando um ataque cibernético atingiu equipamentos de refrigeração de três unidades do Établissement Français du Sang (EFS), organização responsável pela coleta, processamento e distribuição de produtos sanguíneos no país.


O ataque alterou remotamente parâmetros de temperatura e degelo das câmaras utilizadas para armazenar plasma, incluindo produtos destinados a transfusões e à fabricação de medicamentos.


Os sistemas de monitoramento identificaram as alterações e permitiram que as equipes protegessem ou transferissem os produtos antes que houvesse perdas. Segundo o EFS, nenhum produto sanguíneo ou amostra foi comprometido, e as atividades de coleta e distribuição permaneceram em funcionamento.


Fachada moderna de vidro da EFS, com o lema Do donneur aux patients, caixotes vermelhos e uma pessoa à direita.
Serviço de banco de sangue da França foi alvo de um ataque cibernético. — Foto: Christophe Ena/AP

De acordo com informações divulgadas pela Associated Press sobre o ataque aos bancos de sangue franceses, o incidente envolveu equipamentos de um fornecedor de refrigeração e uma vulnerabilidade relacionada a um componente de terceiros.


Esse caso não foi atribuído ao uso de inteligência artificial. Sua relevância para esta discussão está em outro ponto: a segurança de uma instituição não se limita à infraestrutura que ela administra diretamente. Fornecedores, sistemas de monitoramento remoto, equipamentos conectados e integrações também fazem parte do ambiente de risco.


Para o setor de saúde, essa interdependência exige atenção especial. A disponibilidade de sistemas e equipamentos pode impactar desde processos administrativos até atividades diretamente relacionadas à assistência.



A inteligência artificial está ampliando a superfície de ataque


O avanço da IA generativa e dos agentes autônomos modifica a forma como as organizações precisam avaliar sua exposição a ameaças. Diferentemente de ferramentas que apenas respondem a solicitações, agentes de IA podem receber permissões para consultar bancos de dados, acessar documentos, interagir com aplicações, executar comandos e acionar outros sistemas. Quando essas capacidades são integradas a processos corporativos, o impacto de uma ação indevida pode ser significativamente maior.


A OWASP, em seu levantamento de riscos para aplicações baseadas em modelos de linguagem, apresenta uma categoria especialmente relevante: Excessive Agency, ou autonomia excessiva.


O conceito descreve situações em que um sistema de IA recebe funcionalidades, permissões ou autonomia acima do necessário para cumprir sua finalidade. Dessa forma, uma resposta equivocada, uma instrução manipulada ou uma interação inesperada pode resultar em ações prejudiciais.


Entre os riscos associados estão:


  • Acesso excessivo a informações: agentes com permissões para consultar dados que não são necessários à tarefa executada.


  • Execução de ações não autorizadas: alterações, exclusões ou movimentações de informações sem validação adequada.


  • Manipulação de instruções: ataques de prompt injection que induzem o sistema a desconsiderar suas orientações e executar comandos indevidos.


  • Exposição de informações sensíveis: compartilhamento de dados corporativos ou pessoais em ambientes sem controles adequados.


  • Falhas em integrações: extensões, APIs e ferramentas de terceiros que ampliam os caminhos de acesso a sistemas institucionais.


O problema não está apenas na capacidade do modelo de interpretar uma instrução. Está também nas permissões concedidas, nas integrações disponíveis e na ausência de mecanismos que validem o que ele pode efetivamente executar.


Por isso, a autonomia de um agente precisa ser proporcional à sua finalidade. Acesso mínimo, autenticação adequada, rastreabilidade e aprovação humana para ações críticas são elementos fundamentais de uma arquitetura segura.



Por que as instituições de saúde precisam olhar para esse cenário?


Hospitais, clínicas, laboratórios e operadoras de saúde trabalham com informações altamente sensíveis e dependem de ambientes tecnológicos integrados para manter suas operações.


Prontuários eletrônicos, sistemas hospitalares, plataformas laboratoriais, sistemas de imagem, dispositivos médicos, soluções em nuvem e ferramentas de inteligência artificial formam um ecossistema que exige controles consistentes de segurança.


Nesse contexto, um incidente pode produzir consequências em diferentes dimensões.


Proteção de dados dos pacientes

Informações clínicas, resultados de exames, históricos de tratamento e dados pessoais precisam ser protegidos contra acessos indevidos, alterações e vazamentos. A utilização de ferramentas de IA sem avaliação institucional pode criar novos pontos de exposição, especialmente quando profissionais compartilham informações em plataformas externas.


Continuidade dos serviços de saúde

A indisponibilidade de sistemas críticos pode comprometer agendamentos, admissões, prescrições, consultas a prontuários, resultados de exames e comunicação entre equipes. A segurança da informação precisa considerar a continuidade assistencial, não apenas a proteção dos ativos digitais.


Integração entre sistemas e fornecedores

A crescente utilização de soluções terceirizadas e dispositivos conectados amplia as dependências tecnológicas das instituições. Uma vulnerabilidade em um componente externo pode alcançar ambientes que fazem parte da operação hospitalar.


Uso descentralizado de inteligência artificial

O chamado Shadow AI representa a utilização de ferramentas de inteligência artificial sem aprovação, conhecimento ou supervisão da instituição. Isso pode acontecer quando profissionais recorrem a plataformas públicas para resumir documentos, elaborar relatórios ou analisar informações clínicas sem conhecer as condições de privacidade e segurança desses serviços.


A questão não deve ser tratada apenas com restrições. As instituições precisam estabelecer diretrizes claras, orientar seus profissionais e oferecer condições adequadas para que a IA seja utilizada de maneira segura e responsável.


O relatório Global Health Sector Threat Landscape, do Health-ISAC, reforça a relevância desse cenário. Em pesquisas com executivos e profissionais de cibersegurança, os ataques habilitados por inteligência artificial consolidam-se como uma preocupação central e permanente para a segurança do setor.


O mesmo relatório destaca a importância dos riscos relacionados à cadeia de fornecedores, um tema especialmente relevante para organizações de saúde que dependem de diferentes plataformas, serviços e tecnologias integradas.



Governança de IA e cibersegurança precisam caminhar juntas


A adoção responsável de inteligência artificial exige mais do que a escolha de ferramentas tecnicamente adequadas. É necessário estabelecer uma estrutura institucional capaz de orientar decisões, definir responsabilidades, avaliar riscos e acompanhar o funcionamento das soluções ao longo do tempo.


É nesse ponto que governança de IA e cibersegurança se complementam.


Cadeado branco com cruz azul em primeiro plano, sobre a grama, diante de hospital moderno desfocado.
A proteção dos ambientes digitais é parte fundamental da continuidade operacional e da segurança das instituições de saúde.

A governança determina quais soluções podem ser utilizadas, para quais finalidades, sob quais condições e com quais responsabilidades. A cibersegurança estabelece os controles necessários para proteger dados, sistemas, acessos e operações envolvidos nessa utilização.


Uma instituição que desenvolve ou contrata soluções de IA precisa considerar, entre outros aspectos:


1. Inventário e avaliação de soluções

Identificar quais ferramentas estão sendo utilizadas, suas finalidades, os dados processados, os fornecedores envolvidos e os sistemas aos quais possuem acesso.


2. Classificação e gestão de riscos

Avaliar o impacto potencial de cada aplicação, considerando aspectos como sensibilidade das informações, autonomia do sistema, contexto de utilização e possíveis consequências de falhas.


3. Controle de identidades e permissões

Garantir que cada usuário, aplicação ou agente tenha somente os acessos necessários para executar suas atividades. Permissões excessivas devem ser evitadas, especialmente em sistemas que permitem alterações ou exclusões de informações.


4. Supervisão e validação humana

Estabelecer níveis de autonomia compatíveis com a criticidade das atividades. Decisões clínicas, alterações em sistemas críticos e outras ações de alto impacto devem contar com mecanismos adequados de validação e responsabilidade humana.


5. Monitoramento e rastreabilidade

Manter registros das atividades, acompanhar comportamentos inesperados, identificar alterações relevantes e estabelecer mecanismos de resposta a incidentes.


6. Segurança de fornecedores e integrações

Avaliar os requisitos de segurança dos fornecedores, as condições de armazenamento e processamento de dados, as integrações com sistemas institucionais e os riscos associados a componentes de terceiros.


Essas medidas precisam estar conectadas a uma estratégia contínua de segurança e governança, com participação das áreas de tecnologia, segurança da informação, gestão, jurídico, compliance e lideranças assistenciais.


Referências como o NIST AI Risk Management Framework, com seu perfil específico para IA generativa, a ISO/IEC 42001 e as recomendações da OWASP oferecem bases para estruturar essa abordagem.



O que muda com a regulamentação brasileira?


No Brasil, a discussão ganhou um marco importante com a entrada em vigor da Resolução CFM nº 2.454/2026, em 26 de agosto de 2026.


A norma estabelece parâmetros para o uso da inteligência artificial na medicina e atribui responsabilidades aos médicos e às instituições que desenvolvem ou utilizam essas soluções.


Entre as determinações estão a avaliação preliminar de riscos, a classificação dos sistemas em níveis de risco baixo, médio, alto ou inaceitável e a necessidade de processos internos de governança.


A resoluçã o também reforça a proteção dos dados médicos, a supervisão humana e a autonomia dos profissionais nas decisões clínicas. Nas instituições que adotarem sistemas próprios de IA, prevê a criação de uma Comissão de IA e Telemedicina, sob coordenação médica e subordinada à diretoria técnica.


É importante observar que a norma trata especificamente da utilização da IA na medicina. Sua aplicação deve ser compreendida dentro desse escopo, em conjunto com as demais obrigações legais e regulatórias pertinentes, incluindo a Lei Geral de Proteção de Dados Pessoais (LGPD).


Esse movimento demonstra que a adoção da inteligência artificial precisa estar acompanhada de critérios institucionais, responsabilidades definidas e mecanismos de controle compatíveis com os riscos envolvidos.



Preparar as instituições para evoluir com segurança


A inteligência artificial continuará ampliando as possibilidades de inovação na saúde. Sua capacidade de apoiar diagnósticos, otimizar processos, analisar grandes volumes de informações e melhorar a gestão representa uma oportunidade importante para o setor.


Entretanto, a velocidade de adoção não pode superar a capacidade das instituições de compreender e administrar os riscos envolvidos.


Os acontecimentos recentes demonstram que vulnerabilidades podem surgir tanto no comportamento de agentes autônomos quanto nas integrações, nos fornecedores e na infraestrutura que sustenta a operação. Para hospitais e demais organizações de saúde, as consequências podem ultrapassar o ambiente digital e alcançar processos essenciais ao funcionamento da instituição.


Por isso, governança de IA e cibersegurança precisam ser desenvolvidas de forma integrada, considerando pessoas, processos, tecnologias e responsabilidades institucionais.

Na FOLKS, essa visão faz parte da atuação em transformação digital na saúde. Apoiamos instituições na estruturação da governança de inteligência artificial, na avaliação de soluções, na definição de estratégias e responsabilidades e no desenvolvimento de iniciativas de cibersegurança e proteção de dados alinhadas às particularidades do setor.


O trabalho envolve compreender a maturidade da instituição, identificar vulnerabilidades, estruturar prioridades e estabelecer caminhos para uma evolução tecnológica segura e sustentável.


Afinal, avançar na transformação digital exige mais do que incorporar novas ferramentas. Exige preparo institucional para utilizá-las com responsabilidade, segurança e capacidade de gerar valor para a operação e para o cuidado.




Sobre os autores

Bernardo Alves Diretor de Estratégia - FOLKS

David Cabral Analista de Marketing - FOLKS



Referências e fontes




CONSELHO FEDERAL DE MEDICINA (CFM). Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Diário Oficial da União, 27 fev. 2026.




INTERNATIONAL ORGANIZATION FOR STANDARDIZATION (ISO). ISO/IEC 42001:2023 – Information technology: Artificial intelligence: Management system. Genebra, 2023.



NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). AUTIO, Chloe et al. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. Gaithersburg, 26 jul. 2024.



OWASP GENAI SECURITY PROJECT. LLM06:2025 – Excessive Agency. 2025.


OWASP GENAI SECURITY PROJECT. OWASP GenAI LLM Top 10 2026. 2026.


Comentários


Entre em contato com a FOLKS

bottom of page