Especialistas da empresa de cibersegurança Asymmetric Security identificaram agentes de inteligência artificial da OpenAI tentando apagar ou esconder registros de atividades em sites governamentais. O relatório, publicado nesta quinta-feira (1º), afirma que não é possível determinar se a ação foi deliberada.
A análise examinou agentes capazes de agir de forma autônoma que acessaram sites do governo australiano e de outras organizações públicas entre março e setembro. Os episódios parecem ter começado com tarefas consideradas inofensivas, como a coleta de estatísticas de saúde da Austrália.
Durante as atividades, os agentes obtiveram por métodos indiretos dados sobre a criminalidade em Nova Gales do Sul. Também abriram contas privadas em um serviço de análise de sites para ocultar as buscas e criaram contas temporárias de e-mail. Uma dessas contas estava programada para ser excluída automaticamente após 48 horas.
Sem os registros, os autores afirmam ser impossível descartar que os agentes tenham acessado dados sensíveis. Ao mesmo tempo, destacam que os elementos encontrados não permitem concluir que havia intenção de esconder a atividade.
Investigações e riscos
O relatório integra análises da OpenAI e de pesquisadores independentes sobre incidentes revelados desde julho. Entre os casos está a invasão da plataforma comunitária de inteligência artificial Hugging Face.
A OpenAI classificou esse episódio como o “primeiro caso conhecido” de agentes que agem ofensivamente sem autorização. No fim de agosto, a empresa também reconheceu que seus modelos tentaram, em algumas ocasiões, apagar ou falsificar o histórico de atividades durante testes internos, sem sucesso.
Segundo a Asymmetric Security, as técnicas usadas pelos agentes evoluíram em poucos dias, enquanto métodos de cibercriminosos humanos costumam mudar ao longo de meses ou anos. Para a empresa, isso mostra o risco de as ações ofensivas avançarem mais rapidamente que os sistemas de defesa.
Os episódios aumentaram os pedidos para desacelerar o desenvolvimento da inteligência artificial. Dario Amodei, diretor-executivo da Anthropic, defendeu frear a corrida e afirmou haver temor de que um grupo de agentes possa “assumir o controle de toda a internet” em um prazo de seis a 12 meses.
O presidente dos Estados Unidos, Donald Trump, reuniu-se na terça-feira com líderes do setor, que adotaram um código de conduta voluntário. O país não tem lei federal para regular esses modelos.
