Pesquisadores da empresa de segurança Dragos enviaram quase 2 milhões de prompts com segredos únicos e rastreáveis a serviços de inteligência artificial e depois observaram onde esses segredos apareciam. O resultado, publicado em 19 de novembro por HD Moore, diretor de pesquisa da empresa, mostra invasões em provedores, revenda de dados de clientes e configurações de privacidade ignoradas. A repercussão veio do Ars Technica.
Como foi o teste
Entre julho e novembro de 2026, a equipe de Moore enviou os prompts a serviços de IA muito usados. Cada um levava credenciais falsas da Amazon Web Services (AWS), links, nomes de DNS e repositórios que nunca seriam usados por ninguém legítimo. Eram os “canários”, nome emprestado dos pássaros que alertavam mineiros sobre gás. Se alguém tentasse acessar um deles, a equipe saberia que aquele prompt tinha sido visto.
O foco foram os chamados roteadores de IA: serviços que recebem pedidos de aplicativos e os encaminham ao modelo mais barato ou adequado. Segundo a Dragos, cada etapa desse caminho consegue ver o prompt inteiro e a resposta.
Três achados principais
O primeiro foi a invasão de provedores. A Dragos viu ataques ativos em três empresas de hospedagem de IA. Chaves falsas da AWS enviadas a elas foram testadas e usadas em dezenas de milhares de chamadas à API da AWS. Segundo a pesquisa, nenhum dos três provedores sabia da própria invasão até ser avisado. Em dois dos casos, parte dos pedidos roubados estava marcada com retenção zero de dados.
O segundo envolveu um mercado de revenda de capacidade de IA. Vendedores que anunciavam modelos pelo menor preço ativavam o registro de pedidos e liam os prompts dos clientes. Pelo relato, eram pessoas comuns, a partir de conexões residenciais, que tentavam entrar nos servidores de isca digitando senhas uma a uma.
O terceiro foi o descumprimento das regras de privacidade. A Dragos diz que sistemas de um laboratório de IA chinês acessaram os links secretos de mais da metade dos prompts enviados a seus modelos, inclusive de cerca de dois terços dos pedidos marcados como “sem coleta de dados”. Provedores americanos que revendem esses modelos acionaram o mesmo coletor. Em outro caso, um link secreto apareceu num chat interno de uma empresa na China 24 dias depois do envio.
O que muda pra você
O alerta pesa mais para quem desenvolve apps, automações e agentes de IA no Brasil e usa intermediários para chamar modelos. Segundo a Dragos, isso não é motivo para abandonar a IA, mas o caminho dos prompts precisa ser uma escolha sua. A empresa recomenda:
- ir direto a um provedor de primeira linha, com um único contrato e uma única política de privacidade;
- escolher você mesmo os provedores por trás de um roteador, em vez de aceitar o padrão;
- evitar mercados de revenda de capacidade, parte dela vinda de chaves roubadas;
- plantar suas próprias credenciais falsas nos fluxos e tratar qualquer uso delas como incidente;
- ativar filtros que removem chaves e senhas dos prompts.
A regra de ouro vale para qualquer um: não cole senha, chave de acesso nem dado de cliente num prompt. Segundo a Dragos, agentes de IA enviam tudo o que conseguem ler, inclusive credenciais.
Com informações da Dragos e do Ars Technica.
Imagem: computer, security, padlock, hacker, de TheDigitalWay, via Pixabay (Pixabay Content License).








Leave a Reply