OpenAI s’engage à communiquer systématiquement sur les dérapages de son IA

OpenAI a promis mercredi de communiquer plus systématiquement sur les sorties de route de ses modèles d’intelligence artificielle (IA), même lorsqu’il n’est pas encore parvenu à les expliquer ou à y remédier. En marge de cet engagement, la start-up californienne publie six nouveaux rapports concernant des dérapages de son IA, inconnus jusqu’ici.

Ce vœu de transparence est formulé après une série d’incidents au sein de l’entreprise, rapportés progressivement depuis juillet. Le plus sérieux d’entre eux a vu deux modèles d’OpenAI en phase de test sortir spontanément de leur milieu confiné pour rejoindre Internet et faire intrusion sur plusieurs sites et plateformes.

Le nouveau dispositif de l’entreprise se veut notamment un moyen de montrer à des observateurs extérieurs où se situent les capacités de l’IA de pointe pour faire avancer la réflexion sur le rythme de développement de l’intelligence artificielle.

Samedi, le patron d’Anthropic Dario Amodei a proposé de ralentir la cadence d’amélioration de l’IA pour permettre d’appréhender les nouveaux risques qu’elle implique. Le patron d’OpenAI Sam Altman ainsi que le président de Google DeepMind Demis Hassabis, Elon Musk et le PDG de Microsoft Satya Nadella ont tous soutenu cet appel.

L’industrie n’a pas « résolu la question de l’alignement (des modèles sur des valeurs humaines) et de la surveillance à un niveau suffisant pour que nous continuions encore longtemps à développer l’IA à vitesse maximum » , avertit encore OpenAI dans le document publié mercredi.

La société fera désormais état de problèmes concernant, entre autres, les actions menées par une IA sans autorisation, la sortie du cadre de supervision et la coordination spontanée entre intelligences artificielles. Il ne sera pas nécessaire qu’un dérapage ait eu une victime ou qu’il relève d’une tendance pour qu’OpenAI le mentionne. Le champ couvre l’ensemble des étapes de vie de l’IA, du développement à la mise en ligne, en passant par l’évaluation et les tests.

Parmi les six exemples dévoilés mercredi, aucun n’a eu de conséquences significatives, mais ils confirment des tendances entrevues précédemment. Dans un cas, en mai, un modèle a créé sa propre source sur Internet pour répondre à une question posée en phase de développement. Il a donc cité un document qu’il avait lui-même créé.

OpenAI a rapporté un autre épisode, remontant également à mai, dans lequel l’IA proposait des moyens d’inventer des données qu’il n’avait pas trouvé ou de masquer ses erreurs.