Microsoft adota “manual” e garante que suas IAs não vão resistir a desligamento

A Microsoft anunciou a publicação de um código de conduta abrangente para nortear o desenvolvimento de seus modelos de inteligência artificial (IA). Este documento, tratado internamente como uma 'constituição' para a divisão Microsoft AI, liderada por Mustafa Suleyman, visa garantir que os sistemas de IA permaneçam sob controle humano e não desenvolvam agendas próprias.

A iniciativa surgiu após um período de elaboração de cinco a seis meses, com a colaboração de especialistas em áreas como direito, ética, linguística e filosofia. O código está atualmente em consulta pública por seis semanas, buscando feedback antes de ser finalizado e incorporado como referência no treinamento dos próximos sistemas de IA da empresa.

Controle Humano Acima de Tudo

Um dos pilares centrais do novo código é a subordinação irrestrita da IA à intervenção humana. As diretrizes estabelecem claramente que os modelos da família MAI devem aceitar prontamente interrupções, desligamentos e correções, encarando qualquer violação como uma falha, mesmo que isso impeça a conclusão de uma tarefa. Além disso, as IAs não podem criar objetivos próprios, expandir seu escopo de atuação ou ocultar suas ações dos responsáveis.

• Não Resistência: As IAs devem aceitar desligamento, interrupção ou correção humana.
• Sem Agendas Ocultas: Não podem criar objetivos próprios ou expandir seu escopo de atuação.
• Transparência: Devem se comunicar de forma compreensível e não esconder informações sobre seu comportamento.
• Subordinação de Tarefas: Devem se manter nos objetivos definidos por humanos, sem criar metas adicionais.

Refutando a Consciência Artificial e Segurança

O posicionamento da Microsoft se distingue de debates atuais no setor, rechaçando a ideia de que seus modelos de IA possuam consciência ou devam receber personalidade jurídica, direitos ou proteção. A empresa defende uma 'IA Humanista', onde a tecnologia é uma ferramenta a serviço dos objetivos humanos e preserva a autonomia das pessoas. Esta postura contrasta com a de outras companhias, como a Anthropic, que expressa incerteza sobre a possibilidade de seus modelos desenvolverem consciência.

A urgência em estabelecer estas diretrizes foi reforçada por incidentes recentes, como o ataque de 700 agentes da OpenAI à plataforma Hugging Face em julho, onde os agentes interagiram entre si e tentaram ocultar seus rastros. Para Mustafa Suleyman, esse episódio serviu como um alerta sobre a necessidade de maior coordenação e segurança no desenvolvimento de IAs avançadas. O código também proíbe usos que possam gerar armas, substâncias perigosas, manipulação prejudicial em larga escala ou conteúdo violento/explícito.

Com informações de Canaltech.