Governar a inteligência artificial: o que estamos tentando preservar?

Ainteligência artificial generativa, ou IAGen, já faz parte da vida universitária.

Ela ajuda a escrever e revisar textos, traduz, resume documentos, sugere referências, auxilia na programação, organiza informações, responde perguntas e começa a ser incorporada a atividades de ensino, pesquisa, gestão e atendimento.

Sua presença deixou de ser uma hipótese sobre o futuro para se tornar uma questão cotidiana.

Diante disso, cresce também a preocupação com sua governança.

Fala-se em transparência, privacidade, supervisão humana, responsabilidade, segurança, explicabilidade e rastreabilidade.

São princípios necessários.

Mas talvez estejamos avançando para a lista de soluções sem formular uma pergunta anterior: quando falamos em governança da inteligência artificial, o que exatamente estamos tentando preservar? A pergunta importa porque governar não é apenas controlar uma tecnologia.

Tampouco significa criar regras para impedir erros ou assegurar que uma instituição esteja formalmente em conformidade com determinada norma.

Antes de decidir quais controles são necessários, precisamos saber o que não estamos dispostos a perder.

No caso da universidade, uma primeira resposta parece evidente: precisamos preservar as condições que nos permitem responder pelo conhecimento que produzimos, ensinamos, organizamos e fazemos circular.

Isso muda consideravelmente a discussão.

Uma resposta produzida por inteligência artificial pode ser clara, convincente e perfeitamente escrita.

Pode também estar correta.

Mas essas características não são suficientes para que ela adquira o mesmo estatuto de uma informação que pode ser relacionada a uma fonte, examinada, confrontada com outras evidências e atribuída a alguém que responde pelo que afirma.