DALL-E 3 et GPT-4 Vision : OpenAI face au droit et à l’éthique

DALL-E 3 et GPT-4 Vision illustrent deux ambitions complémentaires d’OpenAI : faire produire des images à une intelligence artificielle et lui apprendre à les comprendre. Ces avancées, qui rapprochent les outils numériques de certaines tâches créatives ou d’observation, ne se résument toutefois pas à une démonstration technique. À la date du 12 novembre 2023, elles soulèvent des interrogations très concrètes sur le droit d’auteur, la représentation des personnes, les biais et l’usage de la reconnaissance visuelle.

OpenAI est déjà largement connu pour ChatGPT, son assistant conversationnel. Avec ses deux outils visuels, l’entreprise élargit le champ des interactions possibles. DALL-E 3 fabrique une image à partir d’une consigne écrite, tandis que GPT-4 Vision permet à un modèle de langage d’interpréter le contenu d’une image qui lui est soumise. L’un génère, l’autre analyse. Dans les deux cas, la puissance de l’outil dépend autant de ses capacités que des limites décidées par son concepteur.

Deux outils visuels aux fonctions très différentes

Il est utile de ne pas confondre les rôles de DALL-E 3 et de GPT-4 Vision. Le premier est un générateur : l’utilisateur décrit une scène, un objet, une affiche ou une illustration, et le système produit une nouvelle image. Le second est un modèle multimodal : il associe texte et image pour répondre à des questions sur ce qu’il voit, décrire des éléments visuels ou aider à interpréter un document illustré.

Cette distinction a des conséquences directes. Un générateur d’images pose d’abord la question de ce qu’il a appris à partir des œuvres existantes et de ce qu’il est autorisé à produire. Un système d’analyse visuelle soulève, lui, des enjeux de vie privée, de fiabilité et de reconnaissance des personnes.

OpenAI a présenté DALL-E 3 en septembre 2023, puis a annoncé l’arrivée de capacités de vision pour GPT-4 au cours du même mois. Leur rapprochement dans l’écosystème de ChatGPT rend l’IA visuelle plus accessible à un large public. Il rend aussi ses règles d’usage plus visibles : lorsqu’un assistant refuse une demande ou répond qu’il ne peut pas aider, ce n’est pas seulement une limite technique. C’est souvent l’expression d’une règle de sécurité ou d’un choix de gouvernance.

À qui appartiennent les images créées par une IA ?

La propriété intellectuelle est l’un des dossiers les plus complexes de l’IA générative. Une image créée par DALL-E 3 semble nouvelle, puisqu’elle n’est pas une simple copie affichée à l’écran. Pourtant, la capacité d’un modèle à produire une image convaincante provient de l’apprentissage de très nombreuses régularités visuelles : formes, compositions, associations entre mots et images, conventions graphiques ou techniques artistiques.

Une première question concerne les données ayant servi à cet apprentissage. À la date de publication de cet article, DALL-E 3 ne détaille pas publiquement l’ensemble des sources de données exploitées. Cette absence de liste exhaustive nourrit les interrogations des créateurs, des éditeurs et des titulaires de droits. Pour reproduire des codes graphiques, une IA doit nécessairement avoir été exposée à des œuvres ou à des images qui présentent ces codes. Cela ne signifie pas mécaniquement qu’elle stocke ou recopie une œuvre précise, mais cela n’efface pas le débat sur la rémunération, le consentement et l’autorisation des auteurs concernés.

Une seconde question porte sur le résultat. Si une personne rédige une consigne très détaillée, choisit parmi plusieurs propositions puis retouche éventuellement l’image, quelle part de création lui revient ? Et quelle part relève du système qui a produit les pixels ? OpenAI défend l’idée que l’image générée par DALL-E 3 résulte principalement des instructions de l’utilisateur, elles-mêmes influencées par sa culture et ses connaissances. Cet argument met en avant le rôle du commanditaire de l’image.

Mais cette appréciation ne résout pas à elle seule le problème juridique. Les règles de droit d’auteur dépendent des pays et de l’importance de l’apport humain dans l’œuvre finale. Surtout, le fait qu’un utilisateur puisse exploiter une image dans le cadre prévu par un service ne le protège pas nécessairement contre toute réclamation si le résultat est trop proche d’un contenu protégé, d’une marque ou d’un signe distinctif.

L’imitation des artistes, un garde-fou encore imparfait

La demande « fais-moi une image dans le style de tel artiste » est devenue emblématique des tensions entre IA et création. Pour un utilisateur, elle peut sembler être une simple indication esthétique. Pour l’artiste concerné, elle peut donner l’impression qu’un savoir-faire construit sur des années est reproduit sans autorisation ni rémunération.

OpenAI a donc choisi de mettre en place une liste de blocage afin de déterminer quels styles artistiques DALL-E 3 ne devrait pas reproduire. Concrètement, cette approche consiste à refuser ou à rediriger certaines demandes, plutôt qu’à laisser le système répondre à toutes les instructions de la même façon. C’est un changement important par rapport à une vision purement technique de l’IA, selon laquelle le modèle exécuterait n’importe quelle requête formulée par l’utilisateur.

Cette solution a néanmoins des limites évidentes. Une liste doit être mise à jour, elle suppose de savoir quels noms, styles ou formulations filtrer, et elle peut être contournée par des descriptions indirectes. Un utilisateur peut par exemple demander une image « avec des contours épais, des personnages aux grands yeux et une ambiance de conte animé » sans citer de créateur. Le système doit alors arbitrer entre une demande esthétique générale, qui peut être légitime, et une imitation trop directement rattachable à une personne.

Le problème dépasse OpenAI. Il touche l’ensemble des générateurs d’images et révèle une difficulté de fond : le droit protège traditionnellement des œuvres identifiables, alors qu’un « style » est plus difficile à définir et à encadrer. Les garde-fous techniques peuvent réduire certains usages litigieux, mais ils ne remplacent pas une réponse collective, juridique et économique, aux attentes des créateurs.

GPT-4 Vision et la reconnaissance des personnes : une limite volontaire

GPT-4 Vision apporte une autre catégorie de risques. Un modèle capable d’examiner une photographie peut repérer des objets, lire certains éléments visibles ou décrire une scène. Mais l’analyse devient particulièrement sensible lorsqu’elle porte sur des êtres humains. Identifier une personnalité à partir d’une photo, déduire des informations privées ou tirer des conclusions sur une personne à partir de son apparence peut produire des erreurs et porter atteinte à la vie privée.

OpenAI indique que GPT-4 Vision peut disposer de capacités de reconnaissance de personnalités sur des images, mais que cette fonction est bloquée pour les utilisateurs pendant la définition d’un cadre d’utilisation approprié. Cette restriction est significative. Elle reconnaît qu’une possibilité technique ne constitue pas, à elle seule, une justification d’usage.

Pour les utilisateurs de ChatGPT, ces limites se traduisent par des refus polis sur certaines requêtes. L’assistant peut ne pas répondre lorsqu’une demande concerne un sujet sensible, une personne identifiable ou une inférence risquée. Ces refus peuvent sembler frustrants, surtout si l’image paraît publiquement accessible. Pourtant, une photographie publiée en ligne ne devient pas pour autant une donnée libre de toute protection ni une invitation à l’analyse automatisée.

Il faut aussi tenir compte de la fiabilité. Les systèmes de vision peuvent mal interpréter un détail, confondre des personnes ou manquer du contexte nécessaire à la compréhension d’une situation. Une réponse formulée avec assurance ne doit donc jamais être confondue avec une expertise certaine, particulièrement lorsque la réputation, la sécurité ou les droits d’une personne sont en jeu.

Pourquoi les biais visuels restent un problème majeur

L’éthique de l’IA ne concerne pas uniquement les contenus illégaux ou les données personnelles. Elle concerne aussi les représentations que les outils rendent ordinaires. Les modèles génératifs sont entraînés sur des contenus produits par des humains et disponibles dans un environnement social donné. Ils peuvent donc reproduire les préjugés, les déséquilibres et les stéréotypes présents dans cet environnement.

L’exemple de la demande visant à créer l’image de trois femmes est parlant. Sans précision supplémentaire, un générateur peut privilégier des représentations proches de normes de beauté idéalisées largement diffusées dans les médias. Cela ne signifie pas que l’outil a une intention propre. En revanche, cela montre qu’il peut renforcer des associations déjà présentes dans les images, les légendes et les descriptions auxquelles il a été exposé.

Les stéréotypes peuvent toucher le genre, l’âge, le handicap, l’origine supposée, les métiers ou les rôles familiaux. Demander l’image d’un dirigeant, d’un scientifique, d’une infirmière ou d’un criminel peut faire émerger des associations réductrices. Le risque est d’autant plus important que l’image générée paraît spontanée ou neutre aux yeux du public.

OpenAI affirme chercher à concevoir une IA plus respectueuse des valeurs sociales. Dans la pratique, cela implique plusieurs niveaux d’action : évaluer les résultats produits pour des demandes variées, limiter certains contenus problématiques, améliorer les consignes de génération et mesurer les effets indésirables des filtres eux-mêmes. Un filtre mal conçu peut en effet créer de nouvelles inégalités en refusant plus souvent certaines descriptions que d’autres.

Détecter une image générée : une promesse à manier avec prudence

OpenAI travaille aussi sur des outils destinés à surveiller les images créées par DALL-E 3. Des documents évoquent également un projet de reconnaissance d’images générées par IA. L’objectif est compréhensible : dans un contexte où les images synthétiques deviennent plus réalistes, savoir si une image vient d’un système génératif pourrait aider les plateformes, les médias et les internautes à mieux l’interpréter.

La difficulté est considérable. Détecter une image produite par son propre générateur n’est pas la même chose que reconnaître avec certitude toutes les images créées par tous les outils, dont Midjourney. Chaque système peut laisser des traces différentes, et une image peut être recadrée, compressée, retouchée ou mélangée à une photographie. Plus elle est modifiée, plus une éventuelle signature devient fragile.

Un détecteur peut donc devenir un outil d’aide, pas un arbitre infaillible. Une erreur de détection peut avoir de lourdes conséquences : qualifier à tort une photographie de création artificielle, ou laisser passer une image synthétique présentée comme un document réel. La meilleure réponse passera probablement par plusieurs éléments combinés, notamment des pratiques de transparence, des vérifications éditoriales et une vigilance humaine.

Ce qu’il faut surveiller

DALL-E 3 et GPT-4 Vision montrent que l’IA visuelle entre dans une phase où la question n’est plus seulement « que peut faire la machine ? », mais aussi « dans quelles conditions doit-elle le faire ? ». Les blocages de styles, les restrictions sur l’identification de personnes et les travaux autour de la détection d’images générées constituent des signaux importants. Ils témoignent d’une volonté de ne pas laisser les usages se développer sans cadre.

Reste à savoir si ces garde-fous seront suffisamment transparents, cohérents et efficaces à grande échelle. Les utilisateurs devront comprendre ce que les outils refusent, les artistes voudront savoir comment leurs intérêts sont pris en compte, et les autorités devront préciser les responsabilités de chacun. Pour OpenAI comme pour les autres entreprises du secteur, l’enjeu est désormais double : améliorer les capacités de leurs modèles tout en démontrant que ces capacités peuvent être déployées sans banaliser l’atteinte aux droits, aux personnes et à la confiance dans les images.