Anthropic remove rastreador oculto do Claude Code após preocupações com privacidade

A Anthropic removeu um sistema de rastreio oculto do Claude Code depois de o investigador de segurança Thereallo ter descoberto em junho que o assistente de IA de programação estava a usar marcadores não divulgados para identificar a localização dos utilizadores, a utilização de proxy e possíveis ligações a laboratórios chineses de IA. A funcionalidade incorporava sinais nos prompts do sistema para sinalizar utilizadores que a Anthropic acreditava estarem a contornar restrições ou a tentar extrair capacidades do modelo. A descoberta surge enquanto a Anthropic pressiona os legisladores a reprimir a cópia não autorizada de modelos de IA de fronteira, na sequência de acusações em fevereiro de que programadores chineses de IA usaram contas fraudulentas para extrair milhões de respostas do Claude.

Investigador Expõe Marcadores Unicode e Listas de Domínios Codificadas nos Prompts do Sistema

Thereallo descobriu que o Claude Code ocultava sinais de rastreio dentro dos prompts do sistema usando marcadores Unicode e listas de domínios codificadas, em vez de divulgar o sistema através de documentação ou notas de versão. O investigador observou que a Anthropic parecia estar a tentar detetar revendedores de API, gateways não autorizados do Claude Code e pipelines de ataque de destilação de modelos. Um ANTHROPIC_BASE_URL personalizado apontando para um domínio de revendedor conhecido servia como um sinal útil, tal como um nome de anfitrião contendo deepseek ou zhipu.

Thereallo criticou o método de implementação, embora reconhecendo a justificação de segurança. "Isto não é uma funcionalidade maliciosa, mas é uma escolha estranha para uma ferramenta de programação que pede confiança", escreveu Thereallo.

Engenheiro da Anthropic Confirma Implementação em Março e Remoção Planeada

Depois de o rastreador ter sido revelado online, o engenheiro da Anthropic Thariq Shihipar disse no X que a funcionalidade foi introduzida em março como uma experiência para travar o abuso de contas por revendedores não autorizados e proteger o Claude de ataques de destilação. Shihipar afirmou na semana passada que a equipa tinha implementado mitigações mais fortes desde março. "Fizemos o merge do [pull request] e isto deve ser totalmente revertido no lançamento de amanhã", escreveu Shihipar.

Alibaba Proíbe Claude Code Preocupado com Ataques de Destilação

No início deste mês, a Alibaba proibiu os funcionários de usar o Claude Code, classificando a ferramenta como software de "alto risco" devido a preocupações de segurança. Em fevereiro, a Anthropic acusou os programadores chineses de IA DeepSeek, Moonshot AI e MiniMax de usarem contas fraudulentas para extrair milhões de respostas do Claude para treinar modelos concorrentes. As alegações geraram críticas de quem questionou como a prática difere dos métodos usados em toda a indústria de IA.

Em abril, Elon Musk testemunhou que a xAI tinha "parcialmente" usado modelos da OpenAI durante o treino do Grok, classificando a destilação como uma prática mais ampla da indústria. Em junho, o CEO da Anthropic, Dario Amodei, instou o Congresso a reforçar as proteções contra a extração estrangeira de IA, depois de alegar que operadores ligados à Alibaba geraram 28,8 milhões de trocas no Claude usando quase 25 mil contas fraudulentas.

FAQ

O que é que a Anthropic removeu do Claude Code em junho? A Anthropic removeu um sistema de rastreio oculto do Claude Code depois de o investigador Thereallo ter descoberto em junho que este usava marcadores Unicode não divulgados e listas de domínios codificadas nos prompts do sistema para identificar a localização dos utilizadores, a utilização de proxy e possíveis ligações a laboratórios chineses de IA.

Porque é que a Anthropic implementou a funcionalidade de rastreio no Claude Code? O engenheiro da Anthropic Thariq Shihipar afirmou que a funcionalidade foi introduzida em março como uma experiência para travar o abuso de contas por revendedores não autorizados e proteger o Claude de ataques de destilação, onde as saídas de um sistema de IA são usadas para treinar outro modelo.

Que ação tomou a Alibaba em relação ao Claude Code? No início deste mês, a Alibaba proibiu os funcionários de usar o Claude Code, designando a ferramenta como software de "alto risco" devido a preocupações de segurança relacionadas com a destilação de modelos de IA e extração de dados.