L’IA anticipe nos comportements et devine notre personnalité

Une étude publiée le 6 août dernier dans la revue iScience, éditée par Cell Press, rapporte que des chercheurs de l’Université hébraïque de Jérusalem ont demandé à l’IA GPT-4 de créer deux questionnaires de personnalité à partir de deux textes très différents : le DSM-5 (la cinquième édition du manuel officiel de l'Association américaine de psychiatrie qui sert de référence mondiale pour classer et diagnostiquer les troubles mentaux) et... un ouvrage d’astrologie. Ils les ont ensuite soumis à 588 adultes, avec un test classique de personnalité, le Big Five Inventory. Avant la collecte des réponses, GPT-4 devait estimer la note moyenne que les participants attribueront à chaque question.

Et les résultats sont… surprenants. Ses prédictions correspondaient relativement bien aux réponses réelles : la corrélation atteignait 0,71 pour le questionnaire inspiré du DSM-5 et 0,85 pour celui fondé sur l’astrologie. Le modèle a également réussi à prévoir les liens entre les différentes questions. Tout de suite, la question se pose : faut-il en conclure que l’IA “connaît” nos réponses ?

“Ces résultats ne signifient pas que l'IA a véritablement raisonné pour parvenir à ces prédictions, nuance Laurence Devillers, professeure d'informatique appliquée aux sciences sociales à Sorbonne Université, chercheuse au CNRS et auteure du livre " Savoir vivre avec l'IA" . GPT-4 a été entraîné sur une immense quantité de textes, parmi lesquels figurent de nombreuses études sur la personnalité.” Le modèle peut donc exploiter des associations déjà présentes dans les données, et y repérer des patterns. " Bien que ce ne soient que des mécanismes probabilistes, ce ne sont pas que des statistiques de surface, un modèle interne assez riche des régularités psychologiques humaines est construit indirectement à partir du langage dans GPT-4” , insiste-t-elle.

Non, GPT-4 ne prédit pas la réponse d’un individu précis, elle estime plutôt une tendance collective. Mais ce principe pourrait-il s’étendre à d'autres comportements ? “ On peut chercher les indices de personnalité dans le vocabulaire que vous utilisez, dans votre voix, ou dans la façon dont vous vous comportez dans différentes situations”, explique Laurence Devillers. Une IA pourrait ainsi repérer des indices dont nous n’avons pas conscience : anxiété, impulsivité, intérêt pour certains sujets ou sensibilité à certains arguments. À partir de ces informations, elle pourrait estimer quels contenus nous attireront, quelle publicité nous convaincra ou quelle décision nous sommes susceptibles de prendre.

Mais ce profilage n’est pas entièrement nouveau. Depuis des années déjà, les réseaux sociaux analysent nos clics et nos interactions pour sélectionner les contenus et les publicités les plus efficaces. En 2018, le scandale Cambridge Analytica a montré jusqu’où cette logique pouvait aller : la société britannique avait exploité des données d’utilisateurs de Facebook à des fins de profilage et de ciblage électoral, selon la Federal Trade Commission américaine. En 2019, Facebook a accepté de verser 5 milliards de dollars pour mettre fin à une procédure de la FTC concernant ses pratiques de protection des données.