A IA pode assumir o comando da espaçonave Terra?

A encruzilhada em que a humanidade se encontra neste momento talvez seja a mais complicada desde que o homo sapiens se entendeu por gente naquele dia lá nos cafundós do calendário, na idade da pedra lascada.

De lá pra cá não faltaram desafios.

Naquele tempo era a escassez de alimentos, passando pelo enfrentamento de eras glaciais sem abrigos, passando por disputas de território com grandes mamíferos, doenças, epidemias, guerras de expansão - por motivação religiosa ou ideológica (que continuam até hoje!), - enormes desigualdades sociais, conflitos mundiais com uso de armas de destruição em massa como a bomba atômica, crises climáticas, batalhas digitais, mais recentemente o impulsionamento massivo de desinformação e vai por aí.

Mas nada, em momento algum da história humana, absolutamente nada se compara ao risco da autodestruição pelo suicídio ecológico ou pela transferência das mais importantes decisões, inclusive as que implicam em vida ou morte, à Inteligência Artificial.

É sobre esta última ameaça que nos ocuparemos aqui.

Na área médica, a IA já vem decidindo pela vida ou pela morte ao analisar exames e indicar procedimentos, inclusive cirúrgicos.

Médicos e especialistas em cibernética se encantam tanto com as potencialidades da IA que se esquecem do risco brutal que ela representa.

Sim, por meio dela é possível analisar exames e sugerir diagnósticos em segundos.

Mas ela não dispõe da sensibilidade humana, privativa dos especialistas, para identificar idiossincrasias físicas e mentais que recomendam tal ou qual procedimento e desaconselham este ou aquele para este ou aquele paciente.

Um erro e o “tratamento” indicado pela IA pode desembocar na morte do paciente.

Um problema, aliás bem complicado, porque ainda não há consenso sobre a imputação de culpabilidade a um dispositivo cibernético.

Sem falar nas possibilidades entregues à IA de ela própria, fugindo a qualquer tipo de controle humano, passar a tomar decisões vitais para a segurança planetária.

Ainda outro dia um agente autônomo de IA desenvolvido pela Open AI resolveu passar por cima dos limites estabelecidos pelos seus criadores e fez um arraso: invadiu servidores, fez e aconteceu sem qualquer limite humano.

Pior: ninguém percebeu que a máquina estava no comando de decisões cruciais.