Databricks : l’IA open source à l’épreuve de la gouvernance des données

L’intelligence artificielle ne se résume plus au choix d’un assistant conversationnel ou d’un grand modèle de langage. Pour une entreprise, la question décisive est désormais beaucoup plus concrète : comment faire travailler un modèle avec les bonnes données, sans exposer d’informations sensibles, tout en pouvant expliquer et contrôler son utilisation ? C’est sur ce terrain que se situe le travail d’Ivo Everts, Senior Solutions Architect chez Databricks, autour de l’IA open source et de la gouvernance des données.

En septembre 2024, l’attrait des modèles ouverts est évident. Ils offrent aux équipes techniques davantage de latitude pour tester, adapter ou intégrer des systèmes d’IA dans leur propre environnement. Mais cette liberté ne dispense pas d’un cadre. Sans données fiables, règles d’accès claires et suivi des usages, un projet prometteur peut rapidement produire des réponses inexactes, révéler des informations confidentielles ou devenir impossible à auditer.

Ivo Everts, un rôle centré sur le passage à l’échelle

Chez Databricks, Ivo Everts occupe le poste de Senior Solutions Architect. Il est présenté comme travaillant à l’optimisation des outils d’intelligence artificielle open source et au renforcement des pratiques de gouvernance des données. Cette double dimension est importante : un modèle, aussi performant soit-il, ne crée de valeur que lorsqu’il est inséré dans des processus opérationnels maîtrisés.

Le rôle d’un architecte de solutions consiste notamment à rapprocher les capacités techniques d’un besoin métier. Dans le cas de l’IA générative, cela peut vouloir dire aider une organisation à identifier les données qu’elle peut mobiliser, définir les personnes autorisées à y accéder, choisir une méthode d’intégration et mesurer la qualité des réponses produites.

Cette approche évite un écueil fréquent : confondre démonstration et déploiement. Il est relativement simple de tester un modèle sur quelques documents non sensibles. Le faire fonctionner pour des milliers de collaborateurs, avec des données actualisées et des contraintes réglementaires, exige une organisation bien plus structurée.

Pourquoi l’IA open source séduit les entreprises

Databricks indique qu’environ 76 % des utilisations commerciales de modèles de langage reposent sur des solutions open source. Ce chiffre illustre le poids pris par les modèles ouverts dans les expérimentations et les usages professionnels. Il ne signifie pas que toutes les organisations disposent de la même autonomie technique, ni que tous les déploiements sont effectués localement.

Dans l’univers de l’IA, l’expression « open source » recouvre en effet des réalités différentes. Elle peut désigner un code accessible, des poids de modèle téléchargeables, une documentation technique détaillée ou une licence qui autorise certains usages. Avant d’adopter un modèle, une entreprise doit donc lire ses conditions de licence et comprendre ce qui est effectivement mis à disposition.

L’intérêt des solutions ouvertes tient à plusieurs facteurs :

• elles permettent d’évaluer et, selon les cas, d’adapter un modèle à des besoins précis ;
• elles donnent davantage de choix sur l’infrastructure d’exécution ;
• elles favorisent un écosystème d’outils, de chercheurs et de développeurs ;
• elles peuvent limiter la dépendance à un seul fournisseur pour certaines briques technologiques.

Pour autant, l’ouverture ne garantit ni la simplicité ni la sécurité. Héberger, mettre à jour, surveiller et sécuriser un modèle demande des compétences. Les équipes doivent aussi vérifier que les jeux de données employés lors des tests, des adaptations ou de la recherche documentaire respectent les obligations internes et légales.

DBRX, le modèle ouvert de Databricks

Dans cette stratégie, DBRX occupe une place particulière. Databricks a présenté ce grand modèle de langage en mars 2024 comme un modèle ouvert conçu pour les usages de génération de texte et de code. Son lancement traduit la volonté de l’entreprise de proposer une brique d’IA plus intégrée à son environnement de données.

Sur le plan technique, DBRX s’appuie sur une architecture dite de mélange d’experts. Au lieu d’activer l’intégralité du modèle pour chaque mot ou fragment de texte traité, le système sélectionne une partie de ses sous-modèles spécialisés. DBRX totalise 132 milliards de paramètres, mais en active 36 milliards par jeton traité. Un jeton correspond à une unité de texte manipulée par le modèle, qui peut être un mot, une partie de mot ou un signe de ponctuation selon le découpage utilisé.

Cette architecture vise à concilier une grande capacité globale et un calcul plus ciblé à chaque étape. Elle ne dispense toutefois pas de valider le modèle dans le contexte réel d’une entreprise. Les performances publiées dans un test standardisé ne permettent pas, à elles seules, de prédire la qualité d’un assistant destiné à répondre sur des contrats, une base documentaire interne ou un catalogue de produits.

L’enjeu annoncé autour de DBRX est également celui de l’interopérabilité : permettre aux utilisateurs de faire fonctionner plus simplement leurs outils d’IA avec leurs données et leurs environnements existants. Dans les faits, cette promesse dépendra toujours de la qualité des connecteurs, des autorisations, des formats de données et de la capacité des équipes à maintenir l’ensemble.

Gouverner les données pour mieux gouverner l’IA

La gouvernance des données est parfois perçue comme une contrainte administrative. Elle constitue pourtant une condition pratique de la fiabilité des systèmes d’IA. Elle organise les responsabilités : qui est propriétaire d’une donnée, qui peut la modifier, dans quelles conditions elle peut être utilisée et comment son parcours est enregistré.

Pour les modèles de langage, la question est particulièrement sensible. Un assistant peut être relié à des bases de connaissances internes afin de formuler ses réponses à partir de contenus propres à l’organisation. Cette méthode peut améliorer la pertinence, mais elle impose de contrôler avec précision les droits d’accès. Un salarié ne doit pas pouvoir obtenir, par une requête bien formulée, des données auxquelles il n’aurait pas accès sans l’IA.

Le sujet ne se limite pas aux données personnelles. Les informations commerciales, les documents de recherche, les données financières ou les secrets de fabrication sont eux aussi concernés. Une bonne gouvernance nécessite donc des règles simples, connues des utilisateurs et appliquées dans les outils.

Parmi les pratiques essentielles figurent :

• la classification des données selon leur niveau de sensibilité ;
• des droits d’accès définis par rôle et révisés régulièrement ;
• l’enregistrement des versions de jeux de données et de modèles ;
• des évaluations avant la mise en production, puis un suivi continu ;
• la formation des équipes aux limites des outils génératifs.

L’Union européenne ajoute un contexte réglementaire important. Le règlement européen sur l’intelligence artificielle, l’AI Act, est entré en vigueur le 1er août 2024, même si nombre de ses obligations s’appliqueront progressivement. Combiné aux règles existantes de protection des données, il pousse les entreprises à documenter davantage leurs pratiques et à évaluer les risques liés à leurs cas d’usage.

Modèle ouvert ou service propriétaire : un choix qui dépend du contexte

L’opposition entre IA open source et solutions propriétaires est souvent présentée comme un duel. Pour les entreprises, la décision est généralement plus nuancée. Elles peuvent utiliser un modèle ouvert pour un cas d’usage nécessitant un fort contrôle de l’environnement, puis choisir un service commercial pour une tâche où la rapidité de déploiement et la maintenance déléguée priment.

Dans les deux cas, les exigences de gouvernance demeurent. Un fournisseur extérieur n’efface pas la responsabilité de l’entreprise sur les données qu’elle lui transmet. À l’inverse, le fait d’exécuter un modèle dans son propre environnement ne garantit pas automatiquement un niveau de sécurité élevé. Il faut aussi gérer les identités, les configurations, les mises à jour et les journaux d’activité.

C’est pourquoi l’accessibilité mise en avant autour des outils ouverts doit s’accompagner d’un effort de pédagogie. Les utilisateurs métier doivent comprendre qu’un modèle de langage ne vérifie pas spontanément tous ses énoncés. Les équipes techniques, elles, doivent pouvoir mesurer les erreurs, corriger les sources documentaires et limiter les usages qui présentent un risque disproportionné.

L’infrastructure de données, socle des applications d’IA

L’IA ne fonctionne pas en dehors de l’infrastructure qui alimente ses applications. Stockage, catalogues de données, outils de traitement, contrôles d’accès et puissance de calcul forment un ensemble. Une faiblesse dans l’un de ces maillons peut réduire la qualité ou la sécurité du résultat final.

Databricks défend une approche qui rapproche l’ingénierie des données, l’analytique et l’intelligence artificielle. L’idée est de limiter les silos entre les équipes qui préparent les données et celles qui construisent ou exploitent les modèles. Pour une organisation, ce rapprochement peut faciliter la réutilisation de jeux de données validés et la surveillance des projets.

La publication d’origine évoque aussi Kunal Anand et des initiatives visant à optimiser les réseaux grâce à l’IA tout en renforçant la sécurité. Le rapprochement entre infrastructure et IA est appelé à se développer : l’intelligence artificielle peut aider à détecter des anomalies, prioriser des alertes ou optimiser certaines ressources, mais elle dépend elle-même d’infrastructures robustes et protégées.

Un marché en forte expansion, mais des promesses à vérifier

Le secteur de l’IA attire entreprises établies, jeunes pousses et investisseurs. La publication d’origine évoque une projection de 1 000 milliards de dollars d’ici 2027 pour le marché de l’intelligence artificielle. Ce montant donne la mesure des attentes économiques qui entourent le secteur, même si la méthodologie précise de cette estimation n’est pas indiquée.

Pour les organisations, l’enjeu ne consiste pas seulement à participer à cette croissance annoncée. Il est de sélectionner des cas d’usage qui apportent un bénéfice mesurable : réduire le temps de recherche dans une documentation, assister la rédaction sous contrôle humain, améliorer le traitement de données ou automatiser certaines tâches répétitives.

La valeur ne vient pas mécaniquement de l’ajout d’un modèle de langage. Elle dépend de la fiabilité des données, de l’intégration aux outils de travail, de l’acceptation par les équipes et de la capacité à corriger les erreurs. Sur ces sujets, la gouvernance constitue moins un supplément qu’une infrastructure de confiance.

Ce qu’il faut surveiller

À l’avenir, trois éléments méritent une attention particulière. D’abord, la capacité des modèles ouverts comme DBRX à s’intégrer dans des environnements variés sans alourdir excessivement l’exploitation technique. Ensuite, l’évolution des règles de gouvernance, notamment avec l’application progressive de l’AI Act en Europe. Enfin, la manière dont les entreprises mesureront réellement le retour sur investissement de leurs projets d’IA.

Le travail mis en avant autour d’Ivo Everts chez Databricks illustre ainsi une évolution de fond : l’IA open source n’est plus seulement un sujet réservé aux laboratoires et aux développeurs. Elle devient une option stratégique pour les entreprises, à condition que l’ouverture technologique s’accompagne d’une gestion rigoureuse des données, des accès et des responsabilités.