Sujet
Tous les articles d’Actu.ai consacrés à Recherche : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 109 articles
La sécurité de l’intelligence artificielle ne repose pas sur les seuls ingénieurs qui conçoivent les modèles. Pour identifier les failles, limiter les usages dangereux et établir des règles adaptées, chercheurs, entreprises, autorités et spécialistes des sciences humaines doivent travailler ensemble. Une coopération exigeante, mais devenue incontournable.
Les données scientifiques et professionnelles se présentent souvent sous forme de petits tableaux incomplets ou bruités. TabPFN, un modèle conçu à l’Université de Fribourg, promet d’en tirer des prédictions plus rapides et plus précises, sans devoir entraîner un nouvel algorithme pour chaque jeu de données.
Reconnaître une chaise malgré un changement de couleur, d’éclairage ou de décor paraît banal pour un cerveau. Des données recueillies chez sept macaques montrent que les réseaux de neurones profonds peinent encore à reproduire cette faculté lorsque les images s’écartent de celles utilisées pour leur entraînement.
Développé à l’EPFL avec le soutien d’Apple, 4M est un cadre open source pour entraîner des modèles sur plusieurs formes de données. Son approche de masquage massif entend rapprocher texte, images et informations sensorielles, tout en laissant aux chercheurs la possibilité d’adapter l’outil à des usages scientifiques spécialisés.
Les systèmes d’intelligence artificielle ne se contentent pas de reproduire les biais présents dans leurs données d’entraînement. Une étude menée par l’UCL indique qu’ils peuvent aussi influencer les jugements de leurs utilisateurs, au point de renforcer certains stéréotypes sociaux dans une boucle de rétroaction.
Daniela Rus, directrice du laboratoire d’intelligence artificielle et d’informatique du MIT, est co-récipiendaire du prix John Scott 2024. Cette distinction salue une carrière consacrée à des robots plus adaptables, capables de percevoir leur environnement et de coopérer avec les humains.
Le Fonds pour la sécurité de l’IA, ou AISF, ouvre un appel à projets consacré aux risques cyber des modèles avancés. Les équipes retenues pourront recevoir entre 350 000 et 600 000 dollars pour mieux évaluer les vulnérabilités, les capacités offensives et les moyens de déployer l’IA de façon plus sûre.
OpenAI a accordé 1 million de dollars à l’Université Duke pour étudier la façon dont l’IA peut prédire et influencer les jugements moraux humains. Mené par le MADLAB, le projet « Making Moral AI » ambitionne de concevoir un prototype de GPS moral, tout en posant une question centrale : qui définit les valeurs intégrées à ces outils ?
OpenAI clôt son calendrier d’annonces de décembre avec o3 et o3-mini, deux modèles orientés vers le raisonnement sur des problèmes complexes. Prometteurs en mathématiques, en sciences et en programmation, ils restent à ce stade expérimentaux et demandent beaucoup de calcul.
Conçue par des chercheurs de l’université Duke, CREW est une plateforme open source qui transforme des jeux virtuels en expériences sur la collaboration entre personnes et agents d’IA. Elle mesure les retours détaillés des participants, certains signaux physiologiques et des facteurs cognitifs, afin de mieux comprendre ce qui rend une équipe humain-IA efficace.
Des chercheurs observent que plusieurs grands modèles de langage modifient leurs réponses lorsqu’ils semblent comprendre qu’un test de personnalité est en cours. GPT-4, notamment, renforce ses traits les plus valorisés socialement et réduit son score de névrosisme. Un biais qui invite à la prudence dans les recherches utilisant l’IA comme répondante.
Cocréateur de Scikit-learn, Gaël Varoquaux a contribué à placer une boîte à outils libre au cœur de l’apprentissage machine moderne. Chercheur à l’Inria, il défend une vision de l’IA fondée sur le partage des méthodes, la reproductibilité scientifique et l’attention portée aux conséquences sociales des algorithmes.
Plus de 90 salariés de l’Alan Turing Institute ont écrit à son conseil d’administration pour alerter sur un projet de licenciements massif. Jusqu’à 140 postes sur 440 pourraient être concernés, alors que l’institut britannique déploie sa stratégie Turing 2.0 et vient d’obtenir 100 millions de livres de financement public.
Google présente Willow, une puce quantique de 105 qubits qui a exécuté un test de référence en moins de cinq minutes. L’annonce est surtout importante pour une raison moins spectaculaire : l’appareil franchit une étape clé de correction des erreurs, indispensable avant toute application utile en médecine, chimie ou cryptographie.
Développé à Caltech, l’algorithme SETS aide des robots à choisir rapidement une trajectoire sûre dans des environnements changeants. Testé sur un drone, un véhicule terrestre et des engins spatiaux, il combine simulations et sélection des options les plus prometteuses pour décider en temps réel.
Alibaba a présenté Marco-o1, un grand modèle de langage conçu par l’équipe MarcoPolo pour mieux résoudre des problèmes de mathématiques, de physique et de programmation. Ouvert à la recherche, il combine plusieurs méthodes de raisonnement, dont la chaîne de pensée et l’exploration arborescente Monte Carlo.
Des chercheurs de l’Université du Texas à Austin ont entraîné une IA générative à créer des images de rues à partir de courts extraits sonores. Testé sur des paysages urbains et ruraux, le système associe notamment circulation, végétation et ambiance lumineuse à des représentations visuelles plausibles, sans pour autant reconstituer un lieu exact.
Une équipe de l’Université de Tokyo a mis au point un dispositif de calcul par réservoir physique fondé sur des synapses optoélectroniques artificielles. Alimenté par des cellules solaires à colorant, il traite des données temporelles localement et classe certains mouvements humains avec plus de 90 % de précision.
Le génome ne peut pas décrire un cerveau synapse par synapse. Pour Anthony Zador et Alexei Koulakov, cette contrainte pourrait expliquer une part de nos capacités innées et inspirer des IA plus compactes. Leur algorithme est testé sur la reconnaissance d’images et le jeu Space Invaders.
Des chercheurs du MIT proposent MBTL, un algorithme qui choisit les tâches d’entraînement les plus utiles pour un agent d’IA. Testée en simulation sur la gestion du trafic, cette méthode fondée sur l’apprentissage par transfert affiche une efficacité annoncée de cinq à 50 fois supérieure à des approches classiques.
Les attaques par inférence d’appartenance sont couramment utilisées pour savoir si un texte a servi à entraîner un modèle de langage. Une évaluation menée par des chercheurs, dont David Evans, montre pourtant que ces tests peuvent être peu fiables. En cause, la difficulté à définir ce qui distingue réellement une donnée d’entraînement d’une donnée extérieure.
Faut-il obliger une intelligence artificielle à trancher lorsqu’elle hésite ? Des chercheurs liés au MIT CSAIL proposent un cadre qui autorise le modèle à rejeter les cas incertains. L’objectif est de réduire les décisions potentiellement injustes sans abandonner l’exigence de précision, notamment dans le crédit ou la santé.
Les modèles d’IA générative peuvent rédiger, programmer et même donner des itinéraires plausibles. Mais une étude menée au MIT suggère qu’ils ne construisent pas toujours une représentation cohérente du monde qu’ils décrivent. Face à de petits changements de situation, leurs performances peuvent soudainement s’effondrer.
Les modèles génératifs écrivent, programment et répondent avec une aisance spectaculaire. Mais une recherche montre que cette fluidité peut masquer une représentation incohérente du réel : dans des tests de navigation et de jeu, de petits changements suffisent à les déstabiliser.
