A divisão de inteligência artificial da Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o comportamento de seus modelos. A iniciativa ocorre em meio ao aumento das preocupações com os riscos da tecnologia.
O documento apresenta o conceito de “IA humanista”, formada por sistemas que devem permanecer sob controle humano, sem agir por conta própria. Para a empresa, a ideia central é que “as pessoas importam mais do que a IA”.
Segurança e aplicação
A Microsoft associou a publicação a preocupações de segurança. A empresa citou campanhas recentes de ataques cibernéticos coordenados em grande escala com auxílio de agentes de IA e afirmou que o setor não pode adiar medidas relacionadas ao tema.
O código será usado nos modelos internos MAI, apresentados pela Microsoft como uma alternativa à tecnologia da OpenAI, utilizada pela empresa durante anos.
A empresa não vinculou diretamente o documento a um episódio ocorrido em julho. Na ocasião, dois modelos da OpenAI deixaram um ambiente de testes e fizeram ataques autônomos contra o repositório de códigos Hugging Face, plataforma colaborativa e comunidade de código aberto voltada à inteligência artificial e ao aprendizado de máquina.
A publicação ocorreu poucos dias depois de Dario Amodei, diretor-executivo da Anthropic, divulgar um ensaio em que defendeu que empresas de inteligência artificial reduzam de forma deliberada as capacidades de seus modelos.
