Quem responde pelos agentes de IA quando eles decidem em nome da empresa?

Dois dias antes do IT Forum Upload CEO, Fabiana Falcone mudou a linha da própria palestra.

Depois de ouvir o ensaio em casa, a filha de 16 anos fez uma pergunta: tecnologia e inteligência artificial (IA) não são a mesma coisa? Para a cofundadora da Synapser , foi o sinal de que a mensagem não tinha chegado.

No palco, ela passou a sustentar que são coisas distintas, e que a diferença está na forma como cada uma é governada.

Fabiana explica que o custo de uma empresa se divide em três linhas.

A tecnologia faz o que foi programada, erra de forma reproduzível e é governada como ativo.

As pessoas custam folha de pagamento e respondem a quatro pilares: alçada, orçamento, avaliação e desligamento.

A IA interpreta, escolhe e custa por uso.

“Ela se parece com pessoas em tudo o que importa para governar, mas é tratada como software”, afirma.

Segundo ela, a IA também erra de outro jeito.

“A mesma entrada pode dar saída diferente”, diz.

O erro vem com confiança e convicção e nem sempre se repete, o que dificulta corrigi-lo.

Quem responde pelo agente? A palestrante aplica os quatro pilares aos agentes.

Na alçada, ninguém é contratado sem vaga aprovada, mas qualquer funcionário cria um agente em minutos.

Ela conta o caso de uma executiva de vendas que montou um agente para organizar o sistema de gestão de relacionamento com clientes (CRM): o agente gerou um custo, e a empresa não sabe em que área ratear.