Como decidir em quem confiar na orquestração de IA? CEO da Genesys responde

Depois de dois anos em que o mercado de tecnologia e experiência do cliente concentrou boa parte da conversa nos agentes de inteligência artificial (IA), a discussão avança agora para uma nova vertente: a orquestração.

Com cada vez mais plataformas prometendo coordenar agentes, dados e processos, surge um desafio menos tecnológico e mais estratégico, o de decidir em quem confiar para assumir essa camada.

A pergunta feita ao CEO da Genesys, Tony Bates, em conversa com a imprensa durante o Genesys Xperience*, que acontece em Las Vegas, nos Estados Unidos, resume o momento que o setor atravessa.

Depois do entusiasmo inicial com agentes autônomos, o mercado percebeu que o desafio real não estava na IA isoladamente, mas em como ela é organizada, monitorada e controlada.

Ao responder, o CEO reconheceu que o mercado passou por um ciclo previsível.

Há dois anos, disse ele, o discurso dominante era simplesmente “experimente a IA”, tanto na vida pessoal quanto corporativa.

Cerca de um ano depois, as empresas começaram a perceber que era preciso dar um passo a mais e avançar para a coordenação de agentes, o que no jargão do setor passou a ser chamado de “harness”, uma espécie de loop de aprendizado e execução conjunta dos modelos.

O problema, segundo ele, apareceu na sequência.

Sem observabilidade, sem entendimento do que o sistema estava de fato fazendo, sem controles, auditoria e processos claros, as companhias não conseguem confiar nos agentes o suficiente para torná-los autônomos.

“Essa confiança só se constrói com experiência acumulada”, indicou ele.

É nesse ponto que ele ancora o diferencial competitivo da empresa, fundada há 36 anos e presente em setores fortemente regulados como bancos, saúde, seguros e governo.

Para ele, o critério prático para avaliar um fornecedor de orquestração não é a sofisticação do modelo de IA usado, mas a capacidade comprovada de sustentar governança, segurança e continuidade operacional em escala, o que só se demonstra com histórico.

O executivo insistiu no ponto que já havia defendido no discurso principal do evento: governança não deveria ser vista como um obstáculo à adoção de IA, mas como a condição que a viabiliza.

Um exemplo, segundo ele, foi a migração para os chamados “modelos de ação em larga escala” (large action models), que embutem uma camada de governança na própria arquitetura, no qual o sistema só pode agir nos limites configurados pelo cliente.