Sujet
Tous les articles d’Actu.ai consacrés à Modèles de langage : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 127 articles
Des chercheurs du MIT ont étudié les modèles de récompense qui servent à guider les réponses des IA génératives. Leurs expériences suggèrent que ces systèmes peuvent attribuer des évaluations différentes selon l’orientation politique d’un énoncé, y compris lorsqu’ils sont entraînés à privilégier la vérité factuelle.
Absent d’OpenAI lors du lancement de ChatGPT, Elon Musk revient dans la course à l’IA avec xAI et son assistant Grok. Financement, intégration à X, application autonome et promesse d’un ton plus direct : la stratégie vise les leaders OpenAI, Google et Anthropic, sans résoudre les questions de fiabilité et de régulation.
Le prochain grand modèle d’OpenAI, désigné dans la presse comme GPT-5 ou Orion, accuserait un retard face à un obstacle central : trouver assez de données fiables pour l’entraîner. Alors que son coût pourrait atteindre 500 millions de dollars, ce dossier révèle les limites du modèle de croissance des grands systèmes d’IA.
Face à une consigne imprécise, un robot ne doit pas seulement trouver une action : il doit savoir ce qu’il ne peut pas faire. Au MIT, la méthode PRoC3S associe modèle de langage, vision et simulation pour vérifier un plan avant son exécution. Une piste prometteuse, encore testée dans des cadres contrôlés.
Pour accomplir une consigne aussi large que « prépare-moi le petit déjeuner », un robot doit faire davantage que comprendre les mots. Avec PRoC3S, des chercheurs du MIT proposent de tester ses plans dans une simulation afin d’identifier ce qui est physiquement réalisable, avant d’agir.
Une étude du MIT Center for Constructive Communication interroge la neutralité des systèmes chargés d’évaluer la véracité des réponses d’IA. Même entraînés à partir de données dites objectives, des modèles de récompense ont favorisé certaines affirmations politiques, avec un effet qui s’accentue selon leur taille.
Les modèles d’intelligence artificielle peuvent fournir une prédiction sans que leurs utilisateurs en comprennent les raisons. Des chercheurs du MIT proposent EXPLINGO, un système qui transforme des explications techniques, notamment issues de SHAP, en narrations lisibles. L’objectif : faciliter l’évaluation des décisions algorithmiques, sans masquer leur complexité.
Meta enrichit sa famille Llama avec Llama 3.3 70B, un grand modèle de langage orienté vers les usages textuels. L’entreprise affirme atteindre un niveau proche de Llama 3.1 405B avec un modèle bien plus compact, donc moins coûteux à exploiter. Une promesse importante pour les entreprises et développeurs qui veulent maîtriser leur infrastructure d’IA.
Dans un secteur où les modèles d’IA progressent à un rythme soutenu, un produit utile aujourd’hui peut perdre vite sa raison d’être. Katia Gil Guzman, chez OpenAI, identifie trois erreurs stratégiques : bâtir sur une faille passagère, manquer de singularité et refuser de changer de cap quand le contexte évolue.
Mistral AI lance Mistralship, un programme destiné aux jeunes pousses ayant commencé leur parcours de financement, de l’amorçage à la Série A. Pendant six mois, les entreprises retenues pourront utiliser 30 000 crédits sur sa plateforme et échanger avec ses équipes techniques et scientifiques.
Alibaba a présenté Marco-o1, un grand modèle de langage conçu par l’équipe MarcoPolo pour mieux résoudre des problèmes de mathématiques, de physique et de programmation. Ouvert à la recherche, il combine plusieurs méthodes de raisonnement, dont la chaîne de pensée et l’exploration arborescente Monte Carlo.
YeagerAI dévoile l’Oracle Intelligent, un outil conçu pour apporter des données issues du web aux applications décentralisées bâties sur GenLayer. Son originalité repose sur l’emploi de modèles de langage et d’un mécanisme de validation distribué, baptisé Démocratie Optimiste, afin de trancher des requêtes qui échappent aux règles strictement programmées.
Exécuter un grand modèle de langage sans dépendre en permanence d’un serveur distant devient plus envisageable. Des chercheurs de Princeton et Stanford présentent CALDERA, une méthode de compression testée sur Llama 2 et Llama 3, qui associe calcul à faible précision et réduction des redondances.
L’éditeur de logiciels d’IA Writer a annoncé une levée de 200 millions de dollars, qui porte sa valorisation à 1,9 milliard de dollars. La startup de San Francisco veut accélérer le développement de ses modèles Palmyra, de son service Knowledge Graph et d’applications dédiées aux entreprises.
Le modèle interne Orion devait prolonger la dynamique ouverte par GPT-4. Mais ses résultats intermédiaires, selon des informations rapportées en novembre 2024, alimentent le débat sur des gains de performance moins spectaculaires. Pour OpenAI, l’enjeu dépasse un modèle : il concerne les données, les coûts et la prochaine méthode de progrès de l’IA.
Les modèles d’IA générative peuvent rédiger, programmer et même donner des itinéraires plausibles. Mais une étude menée au MIT suggère qu’ils ne construisent pas toujours une représentation cohérente du monde qu’ils décrivent. Face à de petits changements de situation, leurs performances peuvent soudainement s’effondrer.
Les modèles génératifs écrivent, programment et répondent avec une aisance spectaculaire. Mais une recherche montre que cette fluidité peut masquer une représentation incohérente du réel : dans des tests de navigation et de jeu, de petits changements suffisent à les déstabiliser.
À la veille de l’élection américaine du 5 novembre 2024, Perplexity lance un hub pour centraliser les informations locales de vote. Alimenté notamment par l’Associated Press et Democracy Works, l’outil promet un accès simple aux données électorales. Des experts saluent son utilité, tout en rappelant les risques de biais et d’erreurs générées par l’IA.
Des chercheurs de l’Université de Toronto ont étudié l’effet des modèles de langage sur la créativité. Leurs résultats préliminaires suggèrent un paradoxe : l’assistance améliore la performance pendant son usage, mais pourrait ensuite réduire la diversité des idées produites sans outil.
Texte, code, mathématiques, analyse d’images ou recherche documentaire : Mistral AI décline son offre en 13 modèles aux capacités et licences distinctes. Ce guide publié en octobre 2024 aide à comprendre leurs différences, du petit modèle à déployer localement au grand modèle polyvalent destiné aux usages professionnels.
Google pourrait présenter Gemini 2.0 dès décembre 2024, selon des informations non confirmées officiellement. Cette nouvelle génération est attendue sur la rapidité, le raisonnement, le code et la compréhension de requêtes longues. Mais, au 27 octobre, Google n’a détaillé ni ses fonctions, ni sa date de disponibilité.
OpenAI préparerait un nouveau modèle d’intelligence artificielle, connu en interne sous le nom d’Orion, pour décembre 2024. Présenté comme un successeur potentiel de GPT-4, il pourrait d’abord être réservé à un cercle restreint. Mais sa date, son nom commercial et ses capacités restent à confirmer officiellement.
Nvidia accélère son implantation en Inde avec un modèle de langage conçu pour le hindi et de nouveaux projets d’infrastructure avec des groupes locaux. Derrière l’annonce, l’enjeu est double : rendre l’IA générative plus adaptée aux usages indiens et installer les GPU de Nvidia au cœur de cet écosystème en pleine croissance.
En octobre 2024, les modèles d’IA progressent sur plusieurs fronts : raisonnement, conversation, contexte long, image et automatisation. OpenAI, Google, Anthropic, xAI et Mistral figurent parmi les acteurs cités. Mais comparer ces outils exige de distinguer leurs usages, car un chatbot, un modèle de raisonnement et un générateur d’images ne se mesurent pas avec les mêmes critères.
