Bancos alertam para riscos de golpes, fraudes e vazamento de dados com bots de compras por IA

Usuário do TikTok tem câmera e fotos acessadas em ataque com ajuda de IA O uso de agentes de inteligência artificial (IA) para fazer compras pela internet pode aumentar os riscos de golpes, fraudes e problemas de privacidade, segundo um grupo de bancos internacionais.

Os chamados agentes de IA são sistemas capazes de realizar tarefas em nome do usuário.

No comércio eletrônico, a ideia é que o consumidor peça, por exemplo, que uma ferramenta encontre determinado produto, compare opções e faça a compra por ele. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 ➡️ Empresas como OpenAI, Anthropic, Google e Meta estão desenvolvendo ferramentas desse tipo, enquanto varejistas buscam fazer com que seus produtos apareçam nas recomendações dos chatbots.

Em relatório divulgado nesta terça-feira (22), bancos como NatWest (Reino Unido), Bank of America (Estados Unidos), ING (Países Baixos), Capital One (Estados Unidos) e Commonwealth Bank of Australia (Austrália) afirmaram que o avanço dessa tecnologia está ocorrendo mais rápido do que a criação de padrões para o setor e de mecanismos de proteção ao consumidor.

Quais são os riscos? Um dos problemas apontados é que o agente pode tomar uma decisão diferente daquela esperada pelo consumidor, como escolher o produto errado ou gastar mais do que o planejado.

Também existe o risco de fraude.

Um agente pode, por exemplo, pedir os dados do cartão do usuário e inseri-los diretamente em um site ou encaminhar o consumidor para uma forma de pagamento que ofereça menos proteção em caso de problema.

A privacidade é outra preocupação.

Para realizar tarefas em nome do usuário, essas ferramentas podem precisar acessar informações pessoais e financeiras, aumentando a importância de definir como esses dados serão armazenados e utilizados.

O relatório afirma ainda que consumidores podem não saber quem deve ser responsabilizado caso uma compra feita por um agente dê errado.

Bancos propõem novas regras O grupo pretende discutir propostas com autoridades e formuladores de políticas para estabelecer regras para esse tipo de comércio.

Entre as sugestões estão a obrigação de informar quando um agente de IA estiver envolvido em uma transação e maior transparência sobre os critérios usados pelos sistemas para tomar decisões.

Os bancos também defendem medidas para proteger os dados dos consumidores e afirmam que clientes e comerciantes devem poder escolher quais serviços de comércio eletrônico baseados em IA querem utilizar.

A interoperabilidade entre diferentes sistemas, permitindo que eles funcionem em conjunto, também aparece entre as propostas.