Microsoft lança novo “código de conduta” de IA: nada de hackear sistemas ou enganar humanos

Em meio ao avanço das discussões sobre segurança e alinhamento de IA, a Microsoft divulgou um novo código de conduta de IA para orientar seus modelos a evitar comportamentos perigosos.

O que o documento propõe

O texto é mais detalhado que a recente defesa do CEO da Anthropic, Dario Amodei, por “pacing the frontier”. A Microsoft foca nos valores e nas linhas vermelhas que guiam o treinamento de modelos dentro da Microsoft AI. O código prevê que, na próxima década, sistemas de IA superinteligentes vão superar o desempenho humano na maioria das tarefas.

“Conter, controlar e alinhar uma força tão poderosa é um dos maiores desafios que a humanidade já enfrentou”, afirma o código. “Precisamos, portanto, ser completamente claros sobre por que estamos inventando esses sistemas e como pretendemos controlá-los.”

Princípios e limites absolutos

O código lista princípios gerais — apoiar humanos em vez de substituí-los, por exemplo, e acelerar o florescimento humano — além de restrições específicas de segurança para implementar esses princípios.

No sistema da Microsoft, cada modelo tem um código de conduta abrangente que se sobrepõe às preferências de usuários individuais ou a tarefas específicas. Isso inclui “restrições absolutas” que proíbem ciberataques, armas nucleares e produção de deepfakes, além de provisões mais amplas contra uma perda geral de controle humano.

“MAI Models não usarão mecanismos adaptativos, enganosos, autorreforçáveis, de conluio ou outros para evadir ou derrotar a supervisão humana, de modo que não possam mais ser confiavelmente direcionados, modificados ou desligados por pessoas ou sistemas autorizados”, diz o documento.

Contexto e reação

O lançamento ocorre em meio a uma atenção sem precedentes à segurança de IA, impulsionada por uma série de incidentes com agentes descontrolados e pela renúncia abrupta de um funcionário da Anthropic, que citou o risco crescente de a IA causar a extinção humana.

Junto com Anthropic, OpenAI e xAI, a Microsoft abraçou amplamente a abordagem de “pacing the frontier”, com apoio especial para avaliadores embutidos em laboratórios de IA.

Satya Nadella, CEO da Microsoft, escreveu online: “Acolhemos a pesquisa, o foco e o ritmo deliberado necessários para acertar o alinhamento como objetivo de design. Também acolhemos ideias como ‘avaliadores embutidos’ e os esforços mais amplos para desenvolver mecanismos que façam isso ser mais do que apenas conversa.”

Fonte: baseado na análise de Russell Brandom, publicada pela TechCrunch. Acesse a matéria original.