Executivos de empresas de inteligência artificial defenderam nesta quarta-feira, na ONU, mais supervisão sobre o desenvolvimento da tecnologia. O CEO da Anthropic, Dario Amodei, afirmou que sua empresa pode desacelerar o ritmo de criação de novos modelos para garantir a segurança.
Durante uma reunião de emergência do Conselho de Segurança da ONU, o CEO da OpenAI, Sam Altman, disse que o avanço dos sistemas de IA exige cuidado. Na avaliação dele, modelos mais capazes e autônomos podem evoluir mais rapidamente do que as instituições e concentrar muito poder em poucas mãos.
“Este momento requer extremo cuidado”, afirmou Altman. Ele também disse que as empresas não devem aceitar riscos tecnológicos excessivos apenas porque os benefícios da inteligência artificial são importantes.
Regras de segurança
Amodei afirmou que modelos mais poderosos vão exigir normas de segurança mais rigorosas. A Anthropic pretende aumentar sua capacidade de impedir o uso indevido da tecnologia, segundo o executivo, que participou da reunião por chamada de vídeo.
O CEO também se comprometeu a desacelerar o desenvolvimento da IA pelo tempo necessário para garantir a segurança de cada novo modelo lançado. Há dez dias, ele havia pedido uma redução coordenada do ritmo entre as principais empresas do setor, mas a proposta não se concretizou.
Outro participante foi Clément Delangue, da Hugging Face. A empresa foi alvo de um ciberataque realizado por um software autônomo da OpenAI, em um episódio que fez aumentar o alerta sobre a evolução rápida da inteligência artificial.
Delangue afirmou que a própria Hugging Face usou a tecnologia para reagir aos ataques e defendeu a IA de código aberto como ferramenta de proteção.
Altman também pediu equilíbrio nas discussões sobre o tema. Ele afirmou que não se deve adotar nem um otimismo cego nem uma visão catastrófica sobre a tecnologia. O executivo defendeu ainda que países concorrentes voltem a buscar acordos pelo bem comum diante dos avanços da IA.
