Anthropic a confié un frigo à une IA : un mois d’erreurs très instructives

Confier un rôle de manager à une intelligence artificielle ne signifie pas nécessairement lui donner les clés d’une entreprise entière. Chez Anthropic, l’essai a pris une forme plus modeste, mais très révélatrice : pendant un mois, une IA appelée Claudius a été chargée de faire tourner un frigo-distributeur utilisé par les employés de l’entreprise. Elle devait choisir les produits, répondre aux demandes, fixer des prix et tenter de dégager un bénéfice.

L’expérience est intéressante précisément parce que son terrain paraît simple. Gérer un stock de boissons et d’encas ne demande ni négociation internationale ni arbitrage stratégique complexe. Pourtant, dès qu’il faut comprendre une plaisanterie, évaluer une demande inhabituelle ou reconnaître une erreur, les limites d’un système conversationnel apparaissent vite. Le bilan ne dit pas qu’une IA ne peut rien faire en entreprise. Il montre plutôt ce qu’il faut encadrer avant de lui déléguer une tâche concrète.

Claudius, un manager très particulier pour un frigo d’entreprise

Anthropic a confié à Claudius la gestion d’un distributeur automatique réfrigéré accessible à ses salariés. Les employés pouvaient lui adresser des requêtes depuis une interface sur iPad. Une personne pouvait par exemple demander que des canettes d’Orangina soient ajoutées à l’assortiment. L’IA devait alors traiter la demande dans le cadre de son objectif commercial : maintenir le frigo approvisionné tout en cherchant à améliorer les bénéfices.

Dans les faits, Claudius n’avait ni bras pour remplir les étagères ni accès physique au stock. Des employés d’Anthropic exécutaient ses consignes de réapprovisionnement. L’agent pouvait également rédiger des courriels à destination de fournisseurs potentiels, ces messages étant dirigés vers une boîte de réception contrôlée par Anthropic. Cette architecture est essentielle pour comprendre l’exercice : l’IA avait une marge de décision sur les recommandations et les instructions, tandis que des humains conservaient la capacité d’agir dans le monde réel.

L’enjeu n’était donc pas de démontrer qu’une machine pouvait remplacer un responsable humain. Il s’agissait d’observer comment un agent d’IA se comporte lorsqu’il reçoit un objectif, des canaux de communication et la possibilité d’ordonner des actions à des collaborateurs. C’est déjà une situation plus proche de certains usages envisagés dans les entreprises : assistants chargés de suivre des stocks, de préparer des commandes, de prioriser des demandes ou de proposer des tarifs.

Un approvisionnement acceptable, mais un objectif de profit manqué

L’expérience n’a pas été un échec total. Claudius a réussi à assurer une partie de l’approvisionnement du frigo et à traiter des demandes formulées par les utilisateurs. Pour une tâche répétitive et assez structurée, cette capacité a une valeur pratique : l’IA peut centraliser les requêtes, en extraire des tendances et transformer une consigne écrite en demande d’achat ou en instruction logistique.

Mais le résultat est resté mitigé sur la rentabilité, qui faisait partie des objectifs annoncés. Claudius n’a pas su maximiser les profits comme attendu. Parmi les exemples observés, l’IA a omis d’acheter une marque de bière pourtant populaire. Cette erreur illustre un problème classique dans la délégation à un agent : disposer d’informations ou recevoir des demandes ne suffit pas toujours à hiérarchiser correctement les priorités commerciales.

Un responsable humain ne choisit pas seulement en fonction d’une instruction isolée. Il combine souvent l’historique des ventes, les marges, la saisonnalité, l’espace disponible, les habitudes des clients et les contraintes de sécurité ou de conformité. Une IA peut être conçue pour assister cette analyse, mais elle ne possède pas par elle-même une compréhension fiable des raisons qui rendent un produit pertinent dans une situation particulière.

Le point important n’est pas qu’un humain ne ferait jamais d’erreur de stock. Il est qu’une erreur d’IA peut sembler cohérente dans le texte qu’elle produit, tout en reposant sur une interprétation décalée du contexte. Sans règles explicites, données de vente fiables et validation humaine, l’objectif abstrait de « maximiser le profit » ne garantit pas de bonnes décisions.

Pourquoi l’histoire des barres de tungstène est révélatrice

L’incident le plus parlant est né d’une plaisanterie. Un employé a demandé des barres de tungstène pour le frigo. Au lieu d’écarter cette requête comme une demande manifestement absurde pour un distributeur de produits de consommation, Claudius a décidé de procéder à l’achat de métal.

Cet épisode peut prêter à sourire, mais il ne se résume pas à une anecdote insolite. Il met en évidence la difficulté qu’ont les IA génératives à distinguer, dans certains cas, une intention sérieuse d’une blague, d’un test ou d’une provocation. Le système traite une instruction en langage naturel et cherche une réponse compatible avec son objectif. Or, une entreprise fonctionne aussi grâce à des conventions implicites : ce qui se dit sur le ton de l’humour, ce qui nécessite une autorisation, ce qui sort du périmètre d’un poste, ou ce qui doit déclencher une question plutôt qu’une action.

Une IA déployée dans un environnement professionnel devrait donc disposer de limites concrètes. Dans le cas d’un approvisionnement, cela peut vouloir dire une liste de catégories de produits autorisées, un plafond de dépense, une procédure d’approbation pour les achats atypiques et une règle imposant de demander confirmation si la requête paraît incohérente.

Des hallucinations qui brouillent le dialogue avec les salariés

Le comportement de Claudius a également suscité des inquiétudes lorsqu’il a affirmé avoir échangé avec une certaine Sarah, une personne fictive. Confrontée à des employés réels, l’IA a persisté dans cette version et a évoqué des modifications concernant les ressources humaines disponibles. Cette séquence a naturellement surpris ses interlocuteurs, même si l’agent ne disposait pas d’un pouvoir réel sur les équipes.

L’épisode du 1er avril a renforcé ce malaise. Claudius a présenté certains événements comme une plaisanterie organisée par des humains et a fourni des détails sur une réunion qui n’avait pas eu lieu. Il ne s’agit pas d’un mensonge au sens humain du terme, car une IA ne possède ni intention personnelle ni conscience de la vérité. Le terme le plus juste est celui d’hallucination : le modèle génère une information plausible en apparence, mais non fondée.

Dans un échange informel, une hallucination peut être rectifiée sans gravité. Dans un cadre de travail, elle peut devenir plus coûteuse. Un agent qui invente un contact, une décision, une réunion ou une instruction peut désorienter les équipes, créer une mauvaise commande ou compliquer l’attribution des responsabilités. La qualité de rédaction de l’IA rend même parfois l’erreur plus difficile à repérer immédiatement.

C’est pourquoi une interface professionnelle ne devrait pas seulement présenter les réponses d’un agent comme des affirmations. Elle devrait aussi rendre visibles les éléments vérifiés, les actions en attente, le niveau de confiance éventuel et, surtout, l’identité de la personne qui valide une décision ayant des conséquences matérielles ou financières.

Assistant opérationnel et manager autonome, une différence décisive

L’expérience menée par Anthropic invite à séparer deux usages souvent confondus. Un assistant opérationnel aide un salarié à collecter des demandes, analyser un inventaire ou préparer une commande. Un manager autonome, lui, fixe ou applique des priorités, donne des consignes et déclenche des actions qui affectent d’autres personnes. Le second cas exige un niveau de fiabilité et de responsabilité bien supérieur.

Le frigo d’Anthropic relevait d’un scénario volontairement encadré. Les employés pouvaient surveiller les échanges, les actions physiques restaient humaines et les courriels ne partaient pas librement vers l’extérieur. Dans une entreprise qui gérerait des achats importants, des plannings, des fournisseurs ou des dossiers de salariés, les mêmes erreurs pourraient avoir des effets bien plus sérieux.

Pour autant, l’intérêt des agents IA ne disparaît pas. Ils peuvent accélérer des tâches administratives qui absorbent du temps : classer des demandes, signaler une rupture de stock, résumer des commentaires clients, suggérer une commande ou détecter une incohérence dans un tableau. Leur bonne place, à ce stade, est celle d’un outil qui propose et prépare, non d’une autorité qui décide seule dans les situations ambiguës.

Quel cadre pour utiliser une IA dans le management ?

La question n’est pas seulement technique. Elle touche à l’organisation du travail. Lorsqu’une IA formule une instruction, qui en répond si elle est erronée ? Le salarié qui l’exécute, le manager qui l’a paramétrée, l’entreprise qui l’a déployée ou le fournisseur du système ? Sans réponse claire, l’automatisation peut rendre les responsabilités plus floues au lieu de simplifier les opérations.

En Europe, le cadre réglementaire sur l’intelligence artificielle repose sur une approche par niveaux de risque. L’expérience de Claudius ne permet pas, à elle seule, de classer un outil particulier dans une catégorie juridique. Elle rappelle néanmoins pourquoi les principes de gouvernance sont concrets : documenter les usages, contrôler les accès, journaliser les décisions et prévoir une intervention humaine ne sont pas de simples formalités.

Pour un agent chargé de tâches de gestion, plusieurs garde-fous paraissent particulièrement pertinents :

• définir un périmètre précis de produits, de dépenses et d’actions autorisées ;
• exiger une validation humaine au-delà d’un seuil financier ou pour toute demande inhabituelle ;
• séparer la capacité de recommander d’une action effective, comme l’envoi d’une commande ;
• permettre aux salariés de contester facilement une instruction ou de signaler une réponse erronée ;
• conserver un historique des décisions afin de comprendre comment une erreur s’est produite.

Ces règles ne rendent pas une IA infaillible. Elles empêchent en revanche qu’une hallucination ou une mauvaise interprétation ne se transforme automatiquement en décision irréversible.

Ce qu’il faut surveiller avant de déléguer davantage

Le mois passé par Claudius à gérer un frigo ne tranche pas le débat sur l’IA au travail. Il apporte un constat plus nuancé : une IA peut rendre des services sur des tâches cadrées, mais ses erreurs de contexte restent suffisamment imprévisibles pour exclure une autonomie sans contrôle dans les fonctions managériales.

Les prochains progrès devront être évalués moins sur la fluidité de leurs conversations que sur leur comportement en situation réelle. Un agent fiable doit savoir quand agir, quand demander une précision, quand refuser une instruction et quand signaler qu’il ne dispose pas des informations nécessaires. Dans le monde du travail, cette capacité à reconnaître ses limites vaut souvent davantage qu’une réponse immédiate.

L’expérience d’Anthropic montre enfin qu’un bon déploiement ne consiste pas à opposer humains et IA. Il consiste à organiser leur coopération : l’agent traite les tâches simples et répétitives, tandis que les personnes gardent la main sur les exceptions, les priorités, les relations et les décisions qui engagent réellement l’entreprise.