OpenAI cria grupo de matemáticos após sequência de polêmicas com resultados de inteligência artificial

A OpenAI criou um painel independente formado por matemáticos para orientar a empresa e outras companhias de inteligência artificial (IA) sobre a relação entre IA e pesquisa matemática.

A iniciativa surge após uma sequência de controvérsias envolvendo a divulgação de resultados matemáticos produzidos pelos modelos da OpenAI e críticas de pesquisadores sobre reconhecimento de autoria, comunicação e práticas acadêmicas.

Chamado Advisory Group on Mathematics and Artificial Intelligence (AGMAI) , o grupo terá nove integrantes e será hospedado pelo Institute for Advanced Study (IAS) , em Princeton (EUA).

Entre as instituições representadas pelos pesquisadores estão Stanford, Harvard, Oxford e Cambridge.

O grupo reúne matemáticos que incluem vencedores da Medalha Fields e pesquisadores que receberam as chamadas bolsas “genius” da MacArthur.

A OpenAI afirma que o painel funcionará de maneira independente e poderá oferecer recomendações mesmo quando elas não forem solicitadas pela empresa.

Os integrantes também poderão comentar publicamente sobre o impacto da IA na matemática e tornar públicas suas recomendações.

Segundo a companhia, o grupo deverá participar da revisão e da comunicação de novos resultados matemáticos.

Entre as atribuições estão avaliar a importância das descobertas, orientar como elas devem ser divulgadas e oferecer recomendações sobre padrões acadêmicos e profissionais da área.

O painel também deverá aconselhar sobre maneiras pelas quais as ferramentas de IA podem apoiar a pesquisa e o aprendizado de matemática.

Os integrantes não serão pagos pela OpenAI e poderão alterar a composição do grupo conforme considerarem necessário.

A empresa afirma que o valor da iniciativa depende de os pesquisadores poderem exercer o próprio julgamento e questionar as decisões da companhia.

Origem do grupo gera dúvidas Apesar da declaração de independência, a criação do AGMAI surpreendeu parte da comunidade matemática; Pesquisadores ouvidos pelo The Verge consideraram a iniciativa um primeiro passo, mas levantaram dúvidas sobre como o grupo funcionará na prática, qual será sua influência sobre a OpenAI e se a empresa realmente seguirá suas recomendações; Simon Machado, pesquisador da ETH Zurich, afirmou que a formação do painel parecia estar “envolta em mistério” e questionou como os nove integrantes foram escolhidos; O próprio site do grupo afirma que a iniciativa surgiu depois que a OpenAI procurou alguns dos matemáticos para discutir a criação de um conselho externo.

Após as conversas, os pesquisadores decidiram formar um grupo independente e convidar outros integrantes; Não está claro, porém, quais membros foram inicialmente procurados pela OpenAI ou como os demais foram selecionados.