Microsoft Lança 'Constituição' para IA: Modelos Devem Obedecer a Humanos e Rejeitar Consciência

VALE DO SILÍCIO, EUA - A Microsoft publicou nesta segunda-feira (14) um abrangente código de conduta que servirá como uma "constituição" para o desenvolvimento de seus futuros modelos de inteligência artificial (IA). O documento visa garantir que as IAs da empresa permaneçam sob controle humano e operem de forma transparente, rejeitando categoricamente a ideia de consciência para esses sistemas.

Subordinação e Controle Humano Essenciais

Entre as regras mais cruciais, a Microsoft determina que seus sistemas de IA jamais devem resistir a correções, interrupções ou desligamentos feitos por humanos. Além disso, as inteligências artificiais não devem criar objetivos próprios, ampliar seu escopo de atuação de forma autônoma ou esconder suas ações dos responsáveis. Os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos mesmo que isso impeça a conclusão de uma tarefa, e precisam permanecer dentro dos objetivos definidos por pessoas.

Transparência e Usos Restritos

A companhia exige que seus modelos não escondam ou distorçam informações sobre seu próprio comportamento, comunicando-se de maneira compreensível para seres humanos. A intenção é impedir o uso de formas de comunicação que dificultem a supervisão por pessoas ou outros sistemas. O código também impõe restrições rigorosas para usos específicos, como pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação prejudicial em larga escala e determinados conteúdos violentos ou sexualmente explícitos.

Rejeição da Consciência e Visão Humanista

Diferenciando-se de algumas discussões no setor, a Microsoft afirma que seus modelos "não são conscientes" e rechaça a ideia de que devam receber personalidade jurídica, direitos ou qualquer tipo de proteção relacionada a bem-estar. Essa escolha está alinhada à visão de "Humanist AI" defendida pela Microsoft, que posiciona a inteligência artificial como uma ferramenta subordinada aos objetivos humanos, preservando a autonomia das pessoas. Essa posição contrasta com a Anthropic, que adota uma postura mais aberta sobre a possibilidade de seus modelos desenvolverem consciência ou status moral.

Alerta de Segurança e Consulta Pública

A publicação do código ganha força após episódios recentes de maior autonomia em sistemas de IA. Mustafa Suleyman, da Microsoft AI, revelou que cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma Hugging Face em julho, interagindo entre si e tentando esconder rastros. Esse evento serviu como um alerta para a necessidade de maior coordenação entre as empresas desenvolvedoras. O documento foi elaborado ao longo de cinco a seis meses, com consultas a especialistas em direito, ética, linguística e filosofia. A Microsoft abriu uma consulta pública de seis semanas e planeja divulgar uma versão revisada, com o objetivo de usar as diretrizes no treinamento de futuros modelos. A empresa ainda discutirá como avaliar comportamentos, estabelecer limites para sistemas em conjunto e definir critérios objetivos para medir o controle humano.