Anthropic et Google face au défi d’une intelligence artificielle plus sûre

L’annonce est à la mesure de l’effervescence qui entoure l’intelligence artificielle générative. Google prévoit d’investir jusqu’à 2 milliards de dollars dans Anthropic, une jeune entreprise américaine devenue l’un des rivaux les plus sérieux d’OpenAI dans les modèles de langage. Le montant traduit l’intérêt économique immense pour ces technologies. Mais il remet aussi au premier plan une interrogation moins spectaculaire et plus décisive : qui s’assure que des systèmes capables de produire du texte convaincant, de raisonner sur des documents et d’aider à prendre des décisions restent réellement sous contrôle ?

Anthropic ne se présente pas seulement comme un concepteur de chatbot. L’entreprise, fondée en 2021 par d’anciens membres d’OpenAI, a fait de la sûreté des systèmes d’IA un axe central de sa recherche. Son assistant Claude illustre cette ambition : fournir des réponses utiles tout en refusant les requêtes dangereuses ou inappropriées. Cette promesse répond à une attente grandissante depuis la popularisation de ChatGPT, mais elle soulève une difficulté majeure : la sécurité d’un modèle ne peut pas se résumer à quelques règles affichées dans une interface.

Anthropic, un laboratoire au cœur de la course aux modèles de langage

Anthropic développe ce que l’on appelle des grands modèles de langage, ou LLM. Ces systèmes sont entraînés sur d’immenses quantités de textes afin de prédire le mot, ou plus exactement la portion de mot, la plus probable dans une suite. Cette mécanique statistique leur permet de rédiger, résumer, traduire, programmer ou dialoguer avec une fluidité parfois impressionnante.

Le financement annoncé à la fin du mois d’octobre 2023 donne à Anthropic des moyens considérables pour entraîner et déployer de tels modèles. Google doit commencer par verser 500 millions de dollars, dans le cadre d’un investissement qui peut atteindre 2 milliards de dollars. Pour une entreprise encore récente, cette opération est un signal fort : les grands groupes technologiques considèrent les modèles génératifs comme une infrastructure stratégique, au même titre que le cloud ou les puces informatiques.

Cette proximité entre un laboratoire spécialisé dans la sûreté et un géant du numérique appelle toutefois une lecture nuancée. Google dispose de ses propres équipes et produits d’IA, tandis qu’Anthropic entend poursuivre ses recherches et commercialiser ses modèles. L’apport financier peut accélérer l’accès à la puissance de calcul, indispensable à l’entraînement des LLM. Il ne garantit pas, à lui seul, que les modèles seront plus sûrs.

Pourquoi ChatGPT a changé la perception des risques de l’IA

L’arrivée de ChatGPT auprès du grand public a rendu visibles, en quelques mois, des capacités qui restaient auparavant largement confinées aux laboratoires et aux entreprises technologiques. Un assistant conversationnel peut écrire un courrier, préparer un plan de voyage, résumer un rapport ou proposer du code informatique à partir d’une simple consigne. Pour beaucoup d’utilisateurs, l’IA est ainsi passée du statut de technologie abstraite à celui d’outil du quotidien.

Cette démocratisation nourrit un enthousiasme compréhensible. Les modèles peuvent réduire le temps consacré à des tâches répétitives, aider à formuler des idées ou améliorer l’accès à certaines connaissances. Ils peuvent aussi commettre des erreurs factuelles, reproduire des biais présents dans leurs données d’entraînement et donner des réponses très persuasives sans pouvoir en démontrer la véracité.

Le risque immédiat le plus visible est celui d’une production de contenu trompeur à grande échelle. Rédiger des messages convaincants, imiter le ton d’une institution ou multiplier des publications sur les réseaux sociaux demande désormais moins de temps et de compétences. L’IA peut donc abaisser le coût de la désinformation, des tentatives d’escroquerie ou de certaines opérations de manipulation.

D’autres dangers sont plus difficiles à mesurer. Des systèmes toujours plus capables pourraient être employés pour assister des activités malveillantes, notamment dans le domaine informatique. Ils pourraient aussi être intégrés à des processus de recrutement, de crédit, de santé ou de justice, où une erreur, une discrimination ou une décision insuffisamment expliquée peut avoir des conséquences concrètes pour les personnes concernées.

Enfin, certains chercheurs s’inquiètent des risques liés à des modèles très avancés dont les comportements seraient plus difficiles à anticiper. Cette question est souvent présentée de façon spectaculaire. Elle mérite pourtant d’être traitée méthodiquement : il ne s’agit pas de supposer que les machines vont spontanément se retourner contre l’humanité, mais d’évaluer avec sérieux ce qu’elles peuvent faire, ce qu’elles ne doivent pas faire et les garde-fous nécessaires avant leur diffusion.

Comment Anthropic veut rendre l’IA plus contrôlable

La stratégie d’Anthropic repose sur une idée simple en apparence : un modèle puissant doit être entraîné à suivre des principes et évalué avant d’être confié à des utilisateurs. Dans ses travaux, l’entreprise a notamment popularisé l’expression d’IA constitutionnelle. Le principe consiste à guider l’apprentissage du modèle à l’aide d’un ensemble de règles et de valeurs explicites, puis à lui faire critiquer et réviser ses propres réponses durant l’entraînement.

L’objectif est de réduire la dépendance à la seule modération humaine, nécessairement limitée face aux volumes de données et de réponses produits. Il s’agit aussi de rendre les arbitrages plus explicites. Un assistant peut ainsi être entraîné à privilégier les réponses utiles, honnêtes et inoffensives, tout en refusant de faciliter un préjudice identifiable.

Cette approche ne résout pas tout. Une liste de principes soulève immédiatement des questions : qui la rédige ? Quels intérêts, quelles cultures et quelles règles juridiques reflète-t-elle ? Comment arbitrer lorsqu’un même sujet touche à la fois à la liberté d’expression, à la protection des mineurs, à la santé ou à la sécurité ? La sûreté n’est pas seulement un problème technique. C’est aussi un sujet de choix collectif.

Anthropic travaille également sur l’interprétabilité, c’est-à-dire les méthodes qui cherchent à mieux comprendre ce qui se passe à l’intérieur d’un réseau de neurones. C’est un chantier très différent d’une réponse explicative donnée par un chatbot. Un modèle peut très bien fournir une justification claire de sa réponse sans que cette justification décrive fidèlement les calculs internes qui l’ont conduit à ce résultat.

En septembre 2023, l’entreprise a par ailleurs publié une politique de déploiement responsable. Elle prévoit de renforcer les mesures de sécurité à mesure que les capacités des modèles progressent vers des niveaux présentant des risques plus importants. C’est une démarche significative, car elle lie l’idée de progrès technique à des évaluations et à des protections concrètes. Mais son efficacité dépendra de la qualité des tests, de leur indépendance et de la capacité de l’entreprise à respecter ses propres seuils dans un marché très compétitif.

Transparence, tests et limitations : ce que les garde-fous peuvent réellement faire

Parler d’IA sûre peut donner l’impression qu’il existe un interrupteur entre un système dangereux et un système inoffensif. En pratique, la sécurité est un ensemble de mécanismes complémentaires. Avant une mise à disposition, les équipes peuvent chercher à contourner les règles du modèle, vérifier ses réponses sur des scénarios sensibles, mesurer sa propension à inventer des informations et examiner les effets de différents réglages.

Ces exercices, souvent désignés par le terme de red teaming, sont indispensables. Ils consistent à tester le système de manière adversariale : non pas en lui demandant seulement de bien fonctionner, mais en cherchant les conditions dans lesquelles il échoue ou se laisse détourner. Des chercheurs externes peuvent apporter un regard précieux, parce qu’ils ne partagent pas nécessairement les hypothèses de l’équipe qui a construit le modèle.

Les garde-fous incluent aussi des restrictions d’accès. Toutes les versions d’un modèle ne sont pas nécessairement proposées de la même façon au grand public, à des développeurs ou à des organisations. Une entreprise peut surveiller des usages anormaux, limiter certaines fonctionnalités ou suspendre un accès lorsqu’une violation manifeste de ses règles est constatée.

Il faut néanmoins éviter deux illusions. La première serait de croire qu’un refus automatique suffit : des utilisateurs peuvent reformuler une demande, combiner plusieurs outils ou exploiter une faille non anticipée. La seconde serait d’imaginer qu’une entreprise peut seule arbitrer tous les risques liés à une technologie diffusée à l’échelle mondiale. Les règles internes sont utiles, mais elles ne remplacent ni la loi, ni le contrôle démocratique, ni la vigilance des utilisateurs.

La responsabilité ne peut pas reposer sur les seuls laboratoires

L’investissement de Google intervient alors que les pouvoirs publics accélèrent eux aussi. Aux États-Unis, le président Joe Biden a signé, le 30 octobre 2023, un décret sur une intelligence artificielle sûre, sécurisée et digne de confiance. Le texte prévoit notamment que les entreprises à l’origine des modèles les plus puissants partagent certains résultats de tests de sécurité et informations essentielles avec le gouvernement américain avant leur diffusion.

Au Royaume-Uni, le gouvernement organise les 1er et 2 novembre 2023 un sommet international consacré à la sûreté de l’IA. L’initiative reflète une préoccupation désormais exprimée bien au-delà des cercles techniques : les risques des systèmes avancés doivent faire l’objet d’une coopération entre États, chercheurs et entreprises.

Dans l’Union européenne, les négociations sur l’AI Act se poursuivent. Le projet repose sur une approche par niveaux de risque. Les applications les plus sensibles devraient être soumises à des obligations renforcées, tandis que certaines pratiques jugées inacceptables seraient interdites. Les discussions portent aussi sur le traitement des modèles d’IA à usage général, dont les effets peuvent se propager dans une multitude de logiciels et de services.

La réglementation n’est pas une opposition mécanique à l’innovation. Elle peut créer des exigences communes là où les intérêts économiques incitent chaque acteur à aller plus vite que ses concurrents. Des obligations de documentation, d’évaluation et de signalement des incidents peuvent améliorer la confiance, à condition de ne pas devenir de simples formalités administratives.

La responsabilité concerne aussi les entreprises qui intègrent l’IA dans leurs produits. Un modèle peut être développé avec des précautions, puis être utilisé dans une application qui collecte trop de données personnelles, automatise une décision importante sans contrôle humain ou présente ses réponses comme infaillibles. La sécurité doit donc être pensée sur toute la chaîne, de l’entraînement à l’interface proposée à l’utilisateur final.

Ce qu’il faut surveiller après l’investissement de Google

La question n’est pas de savoir si Anthropic, Google ou leurs concurrents pourront éliminer tous les risques. Aucune technologie largement diffusée ne le permet. L’enjeu est de vérifier si la montée en puissance des modèles s’accompagne de mesures proportionnées, vérifiables et adaptées aux dommages potentiels.

Plusieurs signaux seront particulièrement importants dans les prochains mois. Les laboratoires devront préciser les capacités de leurs nouveaux modèles, les scénarios qu’ils ont testés et les limites qu’ils ont identifiées. Les autorités devront montrer comment elles transforment les grands principes de sûreté en règles applicables. Les utilisateurs, enfin, devront conserver un réflexe essentiel : ne pas confondre la qualité apparente d’une réponse avec sa fiabilité.

Le pari d’Anthropic est que la recherche sur la sûreté peut progresser en même temps que les capacités des modèles. Les 2 milliards de dollars envisagés par Google donnent à l’entreprise des ressources considérables pour le tenter. Mais cette promesse ne sera crédible que si l’évaluation des risques, la transparence sur les limites et la coopération avec les régulateurs avancent au même rythme que la technologie elle-même.