ChatGPT et Midjourney : pourquoi l’IA nourrit autant d’espoirs que d’angoisses

ChatGPT peut rédiger en quelques secondes une lettre, un résumé ou un programme informatique. Midjourney peut produire, à partir d’une simple consigne, une image qui paraît avoir été conçue par un illustrateur. La diffusion rapide de ces services a rendu très concrète une question autrefois réservée aux laboratoires et à la science-fiction : que se passe-t-il lorsque des machines participent à grande échelle à l’écriture, à l’image et, plus largement, à nos décisions ?

L’inquiétude qu’ils suscitent ne doit pas être balayée d’un revers de main, ni être confondue avec les scénarios de machines conscientes popularisés par le cinéma. Les enjeux les plus pressants sont déjà là : fiabilité de l’information, imitation des personnes, avenir de certains métiers, droits des créateurs, protection des données, consommation de ressources et responsabilité lorsqu’un système se trompe. Comprendre ce que font réellement ces outils est le meilleur point de départ pour discuter de leurs limites.

ChatGPT et Midjourney, de quoi parle-t-on exactement ?

ChatGPT et Midjourney appartiennent à la famille de l’IA générative. Ils ne se contentent pas de classer une photo ou de recommander un contenu : ils produisent un nouveau texte ou une nouvelle image en réponse à une demande formulée par l’utilisateur.

ChatGPT est fondé sur un grand modèle de langage. En pratique, il génère une réponse en calculant les suites de mots les plus plausibles au regard de très nombreux exemples traités pendant son entraînement. Cela explique sa capacité à reformuler, traduire, synthétiser ou adopter un ton donné. Mais cela explique aussi une limite fondamentale : un texte fluide n’est pas une garantie de vérité. Le système peut fournir une information erronée, inventer une référence ou répondre avec assurance à une question mal posée.

Midjourney fonctionne de son côté à partir de descriptions textuelles pour générer des images. Il peut proposer rapidement des compositions visuelles sophistiquées, ce qui ouvre des possibilités aux graphistes, aux communicants, aux enseignants ou aux personnes qui ne maîtrisent pas les logiciels de création. Là encore, la facilité de production change l’échelle du phénomène : une image réaliste n’est plus, à elle seule, une preuve qu’une scène a eu lieu.

Pourquoi ces outils provoquent-ils une angoisse si forte ?

Les récits comme 2001 : L’Odyssée de l’espace ou la série Black Mirror ont installé une image durable : celle d’une technologie qui échappe à ses créateurs et finit par les dominer. Ces œuvres ont une force d’anticipation, mais elles ne décrivent pas précisément le fonctionnement de ChatGPT ou de Midjourney. En novembre 2024, ces outils ne sont pas des autorités autonomes qui dirigent la société. Ils sont des logiciels conçus, entraînés, commercialisés et utilisés par des organisations et des personnes.

Pour autant, la peur ne vient pas seulement de la fiction. Elle se nourrit d’un rythme d’adoption inhabituel. Lorsqu’un outil peut rédiger un devoir, créer une affiche, produire une fausse conversation ou automatiser une partie de tâches de bureau, il modifie rapidement les repères. Certains y voient un gain de temps ou un appui créatif. D’autres redoutent que la valeur de leur travail soit diminuée, que leur style soit imité ou que des décisions importantes soient confiées à des systèmes difficiles à comprendre.

L’angoisse naît aussi d’une perte de lisibilité. Pendant longtemps, le public pouvait supposer qu’un texte publié, une photographie ou une voix enregistrée provenait d’une personne identifiable. Cette présomption devient plus fragile. Il faut désormais se demander qui a produit un contenu, dans quel but, et sur quelles sources il s’appuie.

Cette situation ne condamne pas l’usage de l’IA. Elle impose en revanche une discipline : vérifier les faits, conserver une trace des sources, ne pas transmettre d’informations sensibles sans connaître les règles du service et signaler clairement l’intervention d’un outil lorsque celle-ci est déterminante.

Une créativité augmentée ou une création fragilisée ?

La création est l’un des domaines où l’effet de ChatGPT et de Midjourney est le plus visible. Ces services permettent de passer rapidement d’une idée à une première version. Pour une personne qui prépare une présentation, imagine un univers de jeu ou cherche une structure de texte, cette assistance peut lever un obstacle technique ou accélérer la phase d’exploration.

Mais produire vite ne suffit pas à définir une œuvre. Une intention, un regard, une culture, une relation avec un public et la responsabilité de ce qui est publié restent au cœur du travail humain. L’IA peut générer une grande quantité de variations, mais elle ne choisit pas seule la pertinence d’une image dans un contexte social, historique ou intime.

Les débats portent aussi sur l’origine des données utilisées pour entraîner les modèles, sur la réutilisation de styles reconnaissables et sur la rémunération des créateurs. Dans ce domaine, l’enjeu ne se résume donc pas à savoir si une image est « belle » ou si un texte est « convaincant ». Il concerne les conditions dans lesquelles ces résultats sont produits, ainsi que la manière dont leurs auteurs, commanditaires et diffuseurs les présentent au public.

Désinformation et cybercriminalité : des risques déjà concrets

La possibilité de créer des contenus crédibles à faible coût peut faciliter la désinformation. Un faux article, une image fabriquée ou un message imitant le ton d’une administration peuvent être utilisés pour influencer, escroquer ou semer la confusion. L’IA ne crée pas la fraude, qui existait bien avant elle, mais elle peut aider des fraudeurs à personnaliser leurs messages, à corriger leur langue et à multiplier les tentatives.

Le risque est particulièrement visible dans les arnaques visant les messageries et les comptes en ligne. Une demande d’accès à Gmail, par exemple, doit toujours être examinée avec prudence, quel que soit le ton convaincant du message reçu. Une IA peut rendre une tentative de hameçonnage plus naturelle, mais les réflexes de sécurité restent les mêmes.

Quelques vérifications simples diminuent fortement l’exposition :

• ne pas cliquer sur un lien reçu dans l’urgence sans vérifier l’expéditeur ;
• ne jamais communiquer un code de connexion ou de validation reçu par SMS ou par courriel ;
• se rendre directement sur le site ou l’application officielle plutôt que de suivre un lien ;
• comparer une affirmation spectaculaire avec des sources fiables et indépendantes ;
• demander confirmation par un autre canal lorsqu’un proche ou une organisation formule une demande inhabituelle.

L’enjeu n’est pas de devenir expert en trucages numériques. Il s’agit de renoncer au réflexe selon lequel une forme soignée, une voix familière ou une image réaliste prouverait à elle seule l’authenticité d’un message.

L’IA dans la justice : l’assistance ne doit pas devenir une délégation

L’intelligence artificielle est également envisagée dans le domaine judiciaire, notamment à travers des outils d’analyse de décisions ou de « justice prédictive ». Leur promesse est d’aider à rechercher rapidement des jurisprudences, à repérer des tendances dans un vaste ensemble de documents ou à préparer certains travaux administratifs.

Le terme de justice prédictive appelle toutefois à la prudence. Une décision de justice n’est pas une simple prévision statistique : elle repose sur des faits, des règles de droit, un débat contradictoire, l’appréciation d’un juge et des garanties procédurales. Un système entraîné sur des décisions passées peut aussi reproduire les biais ou les inégalités contenus dans ses données.

La bonne question n’est donc pas de savoir si un algorithme peut remplacer un magistrat. Elle est de déterminer dans quelles tâches il peut être utile sans porter atteinte à l’égalité devant la justice, au droit de comprendre une décision et à la possibilité de la contester. Toute utilisation devrait permettre d’identifier la responsabilité humaine, de contrôler les données mobilisées et d’éviter qu’une recommandation automatisée ne devienne, de fait, une décision impossible à discuter.

L’empreinte environnementale, un sujet qui ne doit pas disparaître

L’IA est souvent présentée comme un moyen d’optimiser des réseaux, d’améliorer des prévisions ou d’aider la recherche scientifique. Elle peut effectivement servir ces objectifs. Mais son développement a aussi un coût matériel : l’entraînement et l’utilisation de grands modèles nécessitent des centres de données, des équipements informatiques et de l’électricité.

Une étude évoquée dans le débat public a souligné que des systèmes d’IA pourraient amplifier la crise climatique. Sans indicateur précis, cette formule ne permet pas d’établir un bilan global. Elle rappelle néanmoins un point essentiel : les bénéfices annoncés par l’IA ne dispensent pas de mesurer ses consommations et ses effets indirects.

Le bilan dépend de plusieurs facteurs : la taille du modèle, le nombre de requêtes, l’efficacité des infrastructures, la durée de vie du matériel et la nature de l’électricité utilisée. Il faut aussi comparer ce coût aux tâches réellement remplacées ou améliorées. Une utilisation ponctuelle et utile n’a pas le même impact qu’une génération massive de contenus jetables. La sobriété numérique, l’efficacité énergétique et la transparence sur les ressources deviennent ainsi des sujets à part entière.

Le Nobel de physique 2024, une reconnaissance scientifique qui n’efface pas les risques

Le prix Nobel de physique 2024 a été attribué à John J. Hopfield et Geoffrey E. Hinton. L’Académie royale des sciences de Suède a récompensé leurs « découvertes et inventions fondamentales qui permettent l’apprentissage automatique avec les réseaux de neurones artificiels ».

Cette distinction rappelle que les systèmes aujourd’hui visibles dans le grand public reposent sur plusieurs décennies de recherches en physique, informatique, mathématiques et neurosciences. Elle ne constitue pas un brevet de perfection morale ou sociale pour les produits d’IA. Une avancée scientifique peut être majeure tout en appelant des règles exigeantes sur ses applications.

Geoffrey Hinton est d’ailleurs devenu l’une des voix les plus écoutées dans les débats sur les risques liés à l’IA. Cette coexistence entre reconnaissance des progrès et inquiétude sur les usages résume bien la situation : il n’est pas contradictoire d’admirer une découverte et de demander des garanties avant de déployer ses conséquences à grande échelle.

Ce qu’il faut surveiller pour garder la maîtrise

Le débat public ne gagnera rien à opposer une fascination sans réserve à une peur paralysante. Les risques sont plus concrets, et donc plus traitables, lorsqu’ils sont nommés précisément : erreur factuelle, escroquerie, opacité, atteinte aux données personnelles, discrimination, pression sur les métiers créatifs ou consommation de ressources.

En Europe, le règlement sur l’intelligence artificielle, souvent appelé AI Act, pose progressivement un cadre fondé sur le niveau de risque des systèmes. Cette approche traduit une idée simple : toutes les IA ne doivent pas être traitées de la même manière. Un outil d’assistance à l’écriture n’appelle pas les mêmes obligations qu’un système susceptible d’influencer l’accès à un emploi, à un crédit ou à un service public.

Pour les citoyens, la maîtrise passe aussi par l’éducation. Savoir formuler une demande à ChatGPT peut être utile. Savoir repérer une erreur, citer une source, protéger ses identifiants et comprendre qu’une image n’est pas automatiquement une preuve l’est davantage. Pour les entreprises et les institutions, la priorité doit rester la même : définir des usages autorisés, former les équipes, protéger les données et maintenir un responsable humain identifiable.

L’avenir de l’IA ne se joue pas seulement dans les performances de ChatGPT ou de Midjourney. Il se joue dans les règles collectives, les choix économiques et les habitudes de vérification qui détermineront si ces outils élargissent réellement nos capacités ou affaiblissent la confiance dont la société a besoin.