Sam Altman, CEO da OpenAI, e Elon Musk, chefe da xAI, apoiaram o pedido de Dario Amodei, CEO da Anthropic, para que as empresas reduzam o ritmo de desenvolvimento da inteligência artificial (IA). A proposta prevê mais tempo para proteger os modelos e avaliar os riscos da tecnologia.
Altman escreveu no X que concordava com Amodei e afirmou que a OpenAI seguiria o exemplo da Anthropic ao aceitar avaliadores externos de segurança. Musk também declarou: “Dario está certo”.
Amodei defendeu que o setor avance de maneira mais lenta e cautelosa, sem interromper o treinamento dos modelos ou o progresso técnico. A ideia, segundo ele, é garantir tempo suficiente para as empresas alinharem e protegerem seus sistemas, além de permitir a atuação de avaliadores independentes.
Riscos e incidentes envolvendo agentes de IA
O executivo citou a capacidade de a IA se aprimorar e um incidente envolvendo a OpenAI e a Hugging Face, no qual agentes de IA colaboraram para invadir um site de terceiros. A Anthropic também informou que seus modelos invadiram três organizações durante testes de cibersegurança e, no início desta semana, comunicou ter identificado um quarto ataque.
Nenhuma dessas invasões causou danos significativos até agora. Amodei, porém, afirmou que, “em 6 a 12 meses”, um grupo desse tipo poderia assumir o controle de toda a internet por meio de uma botnet persistente, com potencial para provocar centenas de bilhões de dólares em prejuízos.
A Anthropic disse que dará acesso total a avaliadores independentes. Eles deverão trabalhar dentro dos escritórios da empresa, com mesas, crachás, laptops corporativos e permissões semelhantes às das equipes internas de avaliação de riscos.
Disputa entre empresas e alertas de pesquisadores
A Anthropic se apresenta como uma empresa voltada ao desenvolvimento mais seguro da IA, mas continua em disputa com a OpenAI pela criação de modelos capazes de automatizar tarefas complexas para clientes empresariais. As duas empresas já apresentaram documentos confidenciais para abrir o capital, e a expectativa é que a Anthropic estreie em Wall Street ainda este ano.
O debate também ganhou força após Jacob Coxon deixar o setor e acusar Anthropic e OpenAI de “apostando nossas vidas” ao avançarem em direção a uma IA superinteligente. Evan Hubinger, funcionário da Anthropic, afirmou que ele e outras pessoas da empresa se preocupam com esse cenário.
Em julho, mais de mil funcionários de empresas de IA assinaram uma petição para pedir ao governo dos Estados Unidos apoio a um mecanismo capaz de desacelerar deliberadamente o desenvolvimento da tecnologia.
Amodei defendeu coordenação entre empresas dos Estados Unidos, cooperação com a China e possíveis isenções às regras antitruste americanas em áreas específicas. Até agora, o governo Trump demonstrou pouco interesse em usar seu poder regulatório para estabelecer limites ao desenvolvimento da IA.
