CEO da Anthropic nega ter defendido a proibição de modelos de IA com pesos abertos

O CEO da Anthropic, Dario Amodei, publicou uma postagem em blog na segunda-feira afirmando que sua empresa nunca defendeu a proibição de modelos de IA com pesos abertos, em resposta a críticas em toda a indústria de tecnologia. A declaração veio depois que uma coalizão de empresas de tecnologia, incluindo Nvidia, Microsoft, Meta e Palantir, divulgou uma carta no fim da semana passada pedindo que os formuladores de políticas evitem restrições prematuras a modelos com pesos abertos — modelos que os usuários podem baixar, modificar e executar em sua própria infraestrutura. O debate se concentra em saber se modelos com pesos abertos desenvolvidos na China, que atualmente dominam o mercado, devem ser alvo de restrições nos EUA, com alguns representantes do governo ponderando a possibilidade de proibições.

Coalizão de tecnologia pede que sejam evitadas restrições a modelos com pesos abertos

Uma coalizão de empresas de tecnologia divulgou uma carta no fim da semana passada pedindo que os formuladores de políticas evitem restrições prematuras a modelos com pesos abertos. Os signatários incluíram Nvidia, Microsoft, Meta e Palantir. A OpenAI assinou a carta depois de ela ter sido publicada, enquanto a Anthropic não assinou. A carta afirmou que preocupações sobre destilação ilegal devem ser tratadas por meio de estruturas jurídicas e comerciais direcionadas.

Amodei detalha a posição da Anthropic sobre governança de modelos de IA

Na postagem em blog de segunda-feira, Amodei escreveu que a Anthropic não defende, e não está defendendo, a proibição de modelos com pesos abertos como uma categoria. Ele afirmou que o foco deve ser manter chips poderosos fora das mãos de autoritários, interromper a destilação em escala industrial e exigir testes de segurança de todos os modelos suficientemente capazes, tanto abertos quanto fechados. Amodei escreveu que proibições protecionistas não atenderiam às suas preocupações mais sérias de segurança nacional. A Anthropic é mais conhecida por desenvolver uma família de modelos proprietários chamada Claude, que ela vende para empresas.

A Anthropic alega que a Alibaba realizou um ataque de destilação

A Anthropic enviou uma carta ao Comitê de Bancos, Habitação e Assuntos Urbanos do Senado dos EUA no mês passado, alegando que a Alibaba da China, desenvolvedora da família de modelos Qwen, teria conduzido o maior ataque de destilação conhecido contra a empresa até hoje. Destilação é um método de treinamento de IA em que um modelo menor e menos capaz é construído usando as saídas de um modelo maior que já está no mercado. Amodei afirmou na segunda-feira que concorda que preocupações sobre destilação ilegal devem ser tratadas por meio de estruturas jurídicas e comerciais direcionadas.

Amodei identifica pontos de concordância e discordância com a carta da coalizão

Amodei disse que concorda com partes da carta da coalizão, especificamente que modelos com pesos abertos dão aos clientes mais controle, expandem o acesso à economia de IA e fortalecem a concorrência em alguns casos de uso. Ele afirmou que discorda da ideia de que modelos com pesos abertos favorecem defensores cibernéticos em vez de atacantes, ou de que eles tornam mais fácil para os usuários desenvolverem salvaguardas.

FAQ

O que o CEO da Anthropic, Dario Amodei, disse sobre banir modelos de IA com pesos abertos na segunda-feira?

Dario Amodei publicou uma postagem em blog na segunda-feira afirmando que a Anthropic nunca defendeu a proibição de modelos de IA com pesos abertos como uma categoria. Ele escreveu que o foco deve ser, em vez disso, manter chips poderosos fora das mãos de autoritários, interromper a destilação em escala industrial e exigir testes de segurança de todos os modelos suficientemente capazes.

Por que as empresas de tecnologia divulgaram uma carta sobre modelos de IA com pesos abertos no fim da semana passada?

Uma coalizão incluindo Nvidia, Microsoft, Meta e Palantir divulgou uma carta no fim da semana passada pedindo que os formuladores de políticas evitem restrições prematuras a modelos com pesos abertos. A carta surgiu em meio ao debate sobre se modelos com pesos abertos desenvolvidos na China, que atualmente dominam o mercado, devem enfrentar restrições nos EUA.

Que alegação de destilação a Anthropic fez contra a Alibaba no mês passado?

A Anthropic enviou uma carta ao Comitê de Bancos, Habitação e Assuntos Urbanos do Senado dos EUA no mês passado alegando que a Alibaba da China, desenvolvedora da família de modelos Qwen, teria realizado o maior ataque de destilação conhecido contra a Anthropic até o momento.