Frida Polli rejoint le MIT pour rapprocher IA et science comportementale

Les systèmes algorithmiques sont souvent évalués comme s’ils agissaient seuls : leur précision, leur vitesse ou leur capacité à classer des informations. Mais ils interviennent presque toujours dans des situations où des personnes interprètent leurs résultats, modifient leur comportement et prennent la décision finale. C’est ce point de départ qui guide le retour de Frida Polli au Massachusetts Institute of Technology, le MIT, pour l’année universitaire 2024-2025.

La neuroscientifique et entrepreneuse est nommée première boursière innovante en résidence du MIT Schwarzman College of Computing. Son parcours relie deux mondes qui se côtoient sans toujours partager les mêmes méthodes : la recherche sur le cerveau et les comportements, d’un côté, la conception et le déploiement de logiciels d’aide à la décision, de l’autre. Son projet au MIT consiste à rapprocher ces disciplines afin d’étudier, puis de construire, des algorithmes conçus dès l’origine pour fonctionner avec les humains.

Une première bourse pour faire dialoguer recherche et terrain

La nomination de Frida Polli inaugure le poste de boursière innovante en résidence au sein du MIT Schwarzman College of Computing. Le principe est important : il ne s’agit pas seulement d’accueillir une entrepreneuse ayant créé une entreprise technologique, mais une chercheuse qui a ensuite confronté ses idées aux contraintes concrètes d’un produit, d’un marché et de décisions ayant des conséquences sur les personnes.

Dan Huttenlocher, doyen du MIT Schwarzman College of Computing, se félicite de son retour au MIT. L’établissement met notamment en avant ce profil capable de naviguer entre informatique et sciences comportementales, ainsi que l’expérience entrepreneuriale de Polli.

Cette position s’inscrit dans un enjeu très actuel pour l’intelligence artificielle. Un modèle peut être techniquement performant dans un environnement contrôlé et produire pourtant des résultats décevants lorsqu’il est utilisé par des enseignants, des médecins, des recruteurs ou des agents publics. Les données disponibles, la manière dont une recommandation est présentée, le niveau de confiance que lui accordent les utilisateurs et les règles de décision autour de l’outil changent tous son effet réel.

Des neurosciences à l’intelligence artificielle appliquée

Avant l’entrepreneuriat, Frida Polli a construit une carrière de chercheuse en neurosciences. Ses travaux ont porté sur l’imagerie cérébrale multimodale, une approche qui consiste à rapprocher plusieurs types de mesures du cerveau plutôt que de s’appuyer sur un seul signal. Ses recherches se sont intéressées aux liens entre santé et maladie.

Elle a été fellow du Psychiatric Neuroimaging Group à Mass General Brigham et à la Harvard Medical School, puis a poursuivi un postdoctorat au Département des sciences du cerveau et des sciences cognitives du MIT. Elle y a collaboré avec John Gabrieli, professeur émérite connu pour ses travaux dans ce champ de recherche.

Son activité scientifique a été reconnue par plusieurs distinctions, dont le Young Investigator Award de la Brain and Behavior Research Foundation. Elle a également publié plus de 30 articles évalués par les pairs, notamment dans les revues Proceedings of the National Academy of Sciences et Journal of Neuroscience.

Ce socle académique éclaire la suite de son itinéraire. Les neurosciences ne fournissent pas une recette directe pour fabriquer un système d’IA plus juste ou plus utile. Elles habituent en revanche à étudier des phénomènes complexes, à distinguer observation et causalité, et à ne pas réduire le comportement humain à une variable isolée. Ce sont des précautions particulièrement précieuses quand les logiciels prétendent aider à prendre des décisions sur des personnes.

Pymetrics, un parcours au cœur des décisions d’emploi

Après avoir obtenu un MBA à la Harvard Business School, Frida Polli a cofondé pymetrics en 2012. L’entreprise a développé des logiciels d’aide à la décision et d’amélioration de la performance pour le secteur du capital humain, en mobilisant des avancées de la science cognitive et du machine learning. Polli l’a dirigée jusqu’à sa sortie en 2022.

Le parcours de pymetrics a été distingué par le Forum économique mondial, qui l’a classée parmi ses Technology Pioneers. L’entreprise a également figuré dans le classement Inc. 5000 des sociétés à forte croissance et parmi les 50 entreprises d’intelligence artificielle de Forbes, selon les éléments présentés par le MIT.

Le domaine de l’emploi constitue un terrain révélateur des promesses et des risques de l’automatisation. Un outil peut assister le tri de candidatures, fournir une recommandation ou structurer une évaluation. Mais si ses données, son objectif ou son déploiement sont mal pensés, il peut aussi reproduire des inégalités déjà présentes, écarter des profils atypiques ou donner une apparence de neutralité à une décision discutable.

L’expérience de Polli l’a amenée à s’impliquer dans les débats sur ces questions. Le MIT indique qu’elle a joué un rôle clé dans l’élaboration de la loi new-yorkaise relative aux outils automatisés de décision en matière d’emploi, souvent désignée sous le nom de New York Automated Employment Decision Tool law. Cette réglementation encadre l’usage de certains outils automatisés dans le recrutement et la promotion, notamment autour des audits de biais.

Il ne suffit toutefois pas de contrôler un algorithme après sa création. L’enjeu défendu par Polli est plus large : comprendre comment il modifie la décision humaine et prévoir cette interaction pendant toute la conception du produit.

Pourquoi concevoir des algorithmes en synergie avec les personnes ?

Frida Polli formule son ambition sans ambiguïté : « Des algorithmes conçus pour travailler en synergie avec les personnes sont impératifs pour résoudre de grands défis sociétaux. » Elle vise des applications aussi diverses que l’éducation, les soins de santé et la lutte contre la pauvreté.

Le mot « synergie » ne doit pas être compris comme une simple promesse selon laquelle l’humain conserverait toujours le dernier mot. Un système est véritablement pensé pour coopérer avec une personne lorsqu’il tient compte de ce qu’elle sait déjà, de ce qu’elle ne peut pas vérifier, de la manière dont elle peut contester une recommandation et des effets produits par l’outil sur ses choix futurs.

Dans une salle de classe, par exemple, une recommandation algorithmique peut aider à repérer un élève qui a besoin de soutien. Son utilité dépendra néanmoins de l’interprétation de l’enseignant, du temps et des moyens disponibles, ainsi que de la réaction de l’élève concerné. Dans le domaine médical, un signal produit par un logiciel ne prend son sens qu’avec l’expertise clinique et la situation particulière du patient. Dans les deux cas, mesurer la qualité du modèle sans examiner cet environnement humain donne une vision incomplète.

Au MIT, bâtir une approche à l’interface de deux disciplines

Au cours de sa résidence, Frida Polli entend réunir des professeurs, des étudiants et des postdoctorants autour de problèmes concrets situés à l’intersection des humains et des algorithmes. Son objectif est de contribuer au développement d’une nouvelle sous-discipline de l’informatique consacrée à la science comportementale.

Elle collabore étroitement avec Sendhil Mullainathan, professeur aux départements d’Electrical Engineering et de Computer Science. Leur ambition est aussi de former une nouvelle génération de scientifiques capables de maîtriser les deux langages : celui des méthodes informatiques et celui des comportements, des incitations et des décisions humaines.

Cette double compétence est rare parce que les habitudes de travail diffèrent. L’informatique s’intéresse volontiers à la performance d’un modèle, à ses données d’entraînement et à sa robustesse. Les sciences comportementales examinent plus directement les contextes, les motivations, les biais cognitifs et les effets inattendus d’une intervention. Les rapprocher impose donc de partager les questions posées, les indicateurs retenus et la manière d’interpréter un résultat.

Transparence, investissement et impact social

Le retour de Frida Polli au MIT s’inscrit dans une activité qui dépasse la seule recherche universitaire. En 2023, elle a fondé Alethia AI, un organisme dédié à la transparence technologique. En 2024, elle a lancé Rosalind Ventures, une structure d’investissement tournée vers les femmes fondatrices dans les secteurs des sciences et de la santé.

Ces initiatives prolongent, sous des formes différentes, une même préoccupation : les choix techniques n’existent pas hors de leurs conditions de développement et de financement. La transparence porte sur la compréhension des systèmes. L’investissement détermine aussi quels projets obtiennent des moyens pour atteindre le marché ou les laboratoires. Pour des domaines comme la santé et l’éducation, où les innovations peuvent avoir des effets durables sur les personnes, la diversité des approches et des porteurs de projets est un enjeu concret.

Polli a été citée parmi les Top 100 Female Founders d’Inc. en 2019 et parmi les femmes les plus influentes d’Entrepreneur en 2020. Ses travaux ont aussi été relayés par des médias tels que The New York Times et The Economist. Ces reconnaissances témoignent de la visibilité de son parcours, mais l’intérêt de sa résidence au MIT se jouera surtout dans les méthodes, les collaborations et les problèmes effectivement abordés avec la communauté de recherche.

Ce qu’il faudra surveiller pendant l’année 2024-2025

La résidence de Frida Polli soulève une question très concrète pour l’avenir de l’IA : comment démontrer qu’un système aide réellement les personnes, plutôt que de se contenter d’améliorer un indicateur technique ? Les réponses devront aller au-delà d’une promesse générale de collaboration entre humains et machines.

Plusieurs éléments mériteront une attention particulière :

• les problèmes précis retenus dans l’éducation, la santé ou la lutte contre la pauvreté ;
• les méthodes employées pour observer les effets des outils sur les décisions humaines ;
• la place donnée aux personnes concernées dans la définition des objectifs et l’évaluation des résultats ;
• les critères permettant de distinguer une aide utile d’une automatisation qui déplace simplement la difficulté ;
• la façon dont les futurs chercheurs formés à cette interface diffuseront ces pratiques dans les laboratoires, les entreprises et les institutions.

Le projet porté au MIT ne promet pas qu’un algorithme résoudra à lui seul les grands défis sociaux. Il propose plutôt de déplacer la question : au lieu de demander seulement ce qu’une IA peut faire, il faut aussi demander avec qui elle agit, dans quelles conditions et au bénéfice de qui. Pour une technologie appelée à intervenir dans toujours plus de décisions ordinaires, cette distinction pourrait être déterminante.