Anthropic pede uma pausa global no desenvolvimento de IA de ponta, 5 de junho

De acordo com a postagem do blog de quinta-feira da Anthropic, a empresa de pesquisa em IA pediu uma pausa global no desenvolvimento de IA de ponta em 5 de junho, citando riscos da melhoria recursiva e autônoma em sistemas de IA. A Anthropic divulgou dados internos mostrando que seus modelos mais avançados alcançaram ganhos rápidos de desempenho e alertou que, em breve, sistemas de IA poderiam obter otimização autônoma sem intervenção humana, o que representa riscos sociais significativos.

A empresa propôs a criação de um acordo global para desacelerar o desenvolvimento da pesquisa em IA e criar mecanismos de verificação para garantir que os concorrentes cumpram. A Anthropic afirmou: "Se o mundo puder escolher desacelerar ou interromper temporariamente o desenvolvimento de IA de ponta para que a sociedade e a pesquisa possam acompanhar o progresso tecnológico, isso seria benéfico."