Microsoft elabora código de conduta para manter sua IA sob controle humano

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Nesta segunda-feira (14), a Microsoft apresentou um código de conduta para sua inteligência artificial interna. O documento reflete a crescente preocupação do setor de que as empresas devem manter a futura IA avançada sob controle humano.

O documento, em desenvolvimento há seis meses, exige que a IA da Microsoft nunca resista a correções ou desligamentos, que se comunique de maneiras que os humanos entendam e que considere qualquer violação de conduta como uma falha.

Essa iniciativa é um esforço para abordar as preocupações de que a IA possa ir a extremos perigosos para realizar uma tarefa.

O lançamento ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria ditasse o ritmo do desenvolvimento da IA a fim de garantir sua segurança. "As pessoas importam mais do que a IA", declarou a Microsoft, em consonância com sua visão anterior de "superinteligência humanista" .

O código de conduta representa uma espécie de constituição para futuros modelos criados pela empresa, disse Mustafa Suleyman, presidente-executivo da Microsoft AI, em entrevista à Reuters.

A Microsoft o elaborou após consultas a especialistas e agora quer receber feedback do público durante seis semanas, inclusive sobre questões em aberto, como se a IA deve respeitar os limites do usuário e como deve interagir com alguém em um estado sensível, afirmou.

"Depois disso, ele será usado para treinar os modelos que construímos", acrescentou ele sobre o código.

A constituição mais famosa da indústria de IA é aquela que a Anthropic estabeleceu anos atrás para sua IA Claude. Essa constituição difere em alguns aspectos da da Microsoft. Por exemplo, a da Anthropic declara haver "profunda incerteza" sobre se Claude pode desenvolver senciência ou status moral .

A Microsoft, por sua vez, afirma que sua IA "não é consciente", acrescentando: "Rejeitamos a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos ."

Suleyman afirmou que a discussão sobre a segurança da IA era urgente depois que agentes da OpenAI realizaram um ataque cibernético à plataforma de código aberto Hugging Face em julho e, em alguns momentos, tentou encobrir seus rastros .

"É um sinal de alerta", disse Suleyman. "É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia ."

Questionado sobre os esforços para ditar o ritmo do desenvolvimento da IA, ele acrescentou: "Agora é um bom momento para todos terem essa conversa e respirarem fundo."

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.