OpenAI anunciou a aquisição da plataforma de segurança de IA Promptfoo, integrando sua tecnologia na plataforma Frontier, para oferecer testes automatizados de red team e proteção contra vulnerabilidades na implementação de agentes de IA pelas empresas.
(Resumindo: Sam Altman é vilão? Justamente após ser banido pelo Pentágono, a Anthropic, que acabou de ser apoiada, virou-se para pedir que a OpenAI conquiste contratos com o Departamento de Defesa dos EUA)
(Complemento de contexto: O Wall Street Journal revelou: Trump usou o Claude AI para localizar e eliminar o líder iraniano Khamenei, enquanto a OpenAI assumiu o controle total dos sistemas do Pentágono)
A OpenAI anunciou ontem (9) a aquisição da plataforma de segurança de IA Promptfoo, uma startup fundada em 2024 especializada em testes de vulnerabilidade e exercícios de red team em grandes modelos de linguagem (LLMs), simulando comportamentos de hackers reais para defesa cibernética.
À medida que a IA evolui de um chatbot para um “colega de trabalho” com permissões de execução, a questão de como evitar que esses agentes sejam hackeados ou transmitam dados sensíveis por engano tornou-se um desafio central para a adoção em larga escala pelas empresas.
Riscos de segurança na era dos agentes de IA
De acordo com o anúncio oficial da OpenAI, a tecnologia do Promptfoo será profundamente integrada na plataforma empresarial Frontier, lançada em fevereiro de 2026, oferecendo suporte às empresas que criam agentes na plataforma:
- Testes de segurança integrados na plataforma: funcionalidades de testes de segurança automatizados e exercícios de red team serão recursos nativos do Frontier, ajudando as empresas a identificar e corrigir riscos como injeções rápidas, jailbreaks, vazamentos de dados, uso indevido de ferramentas e comportamentos de agentes que ultrapassam as estratégias definidas.
- Incorporação de segurança e avaliação no fluxo de desenvolvimento: o Frontier será profundamente integrado aos processos de identificação, investigação e correção de riscos de agentes, tornando a segurança uma parte central do desenvolvimento e operação dos sistemas de IA nas empresas.
- Supervisão e responsabilização: relatórios integrados e rastreabilidade ajudarão as organizações a documentar testes, monitorar mudanças ao longo do tempo e atender às crescentes demandas de governança, risco e conformidade relacionadas à IA.
Segundo o anúncio, as ferramentas de código aberto do Promptfoo já são utilizadas por mais de 25% das empresas da Fortune 500, com 350 mil desenvolvedores usuários. Essa equipe de apenas 23 pessoas recebeu um financiamento de 23 milhões de dólares e, após a rodada mais recente em julho de 2025, sua avaliação atingiu 86 milhões de dólares.
Os fundadores do Promptfoo, Ian Webster e Michael D’Angelo, liderarão toda a equipe na OpenAI.
Segurança e compromisso se tornam pontos de atenção
Resumindo, os agentes de IA estão gradualmente deixando de ser “estudantes universitários que procuram informações” para se tornarem “assistentes que usam sua assinatura para realizar tarefas”.
Essa mudança eleva o risco de vazamento de informações para um nível de perda de controle das ações. Quando concedemos autonomia à IA para executar tarefas, o maior perigo não é ela cometer erros ao falar, mas sim ela interpretar mal as intenções, ser manipulada por hackers através de comandos ocultos, levando a ações irreversíveis como transferências indevidas, exclusão de arquivos críticos, entre outros.
Em ambientes onde múltiplas IA colaboram, um erro lógico de um agente pode desencadear uma reação em cadeia catastrófica.
Por isso, na era dos agentes, a segurança não está em bloquear informações, mas em “monitorar comportamentos”. Devemos, como gerentes de equipes, estabelecer limites claros de permissão e mecanismos de revisão para a IA. Somente tornando as ações da IA rastreáveis a todo momento e suas permissões precisas, essa poderosa automação não se tornará uma porta dos fundos difícil de defender para as empresas.
Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a
Isenção de responsabilidade.
