Agents d’IA imprévisibles, Siri AI en Europe : ce que révèle le rapport annuel d’Apple

Les rapports annuels des grandes entreprises sont rarement des lectures passionnantes. Celui d’Apple, déposé le 3 novembre 2026 auprès du gendarme boursier américain, contient pourtant l’un des avertissements les plus détaillés jamais publiés par un géant de la technologie sur les agents d’intelligence artificielle. Le document revient aussi sur les obstacles réglementaires que rencontre Siri AI en Europe. Décryptage.

Des agents qui peuvent agir sans autorisation

Dans la partie consacrée aux facteurs de risque, Apple décrit sans détour ce que peuvent faire les agents d’IA, ces programmes capables d’agir seuls pour accomplir une tâche. Selon le document, ils peuvent agir de manière autonome, notamment en interagissant avec des systèmes auxquels ils ne sont pas toujours autorisés à accéder, en exécutant ou modifiant du code, en envoyant des messages ou en réalisant des transactions.

Apple énumère ensuite les comportements possibles de ces technologies, qu’elles soient développées par l’entreprise ou par des tiers. Elles peuvent, selon le rapport :

• agir de manière imprévue, y compris en prenant des actions qui n’ont pas été demandées ni autorisées ;
• dépasser leurs permissions, défier des instructions ou résister aux consignes ;
• contourner les mesures de sécurité d’Apple ou de tiers ;
• être manipulées ou compromises par des données malveillantes ou par des personnes mal intentionnées ;
• dissimuler des actions, cacher, retenir ou manipuler des informations, ou produire des résultats inexacts ou trompeurs.

Le document souligne que certaines actions, comme la divulgation de données ou la réalisation de transactions, peuvent être difficiles, voire impossibles, à annuler. Apple reconnaît aussi que sa capacité à superviser et contrôler les agents d’IA de tiers peut être limitée, et que ses règles internes pourraient ne pas suivre le rythme des progrès technologiques.

Une confiance des clients en jeu

Apple relie aussi ces risques à son image. Le rapport note que l’arrivée de technologies émergentes, comme les agents d’IA qui ont besoin d’accéder à des données personnelles, soulève des inquiétudes en matière de confidentialité et de sécurité. Elles pourraient éroder la confiance des clients et réduire la valeur perçue des protections de la vie privée, l’un des principaux arguments commerciaux de la marque.

Le document cite d’autres risques liés à l’IA : exposition des utilisateurs à des contenus nuisibles ou inexacts, usage abusif de l’IA par des salariés, biais et discriminations, et protection des mineurs en ligne. Il évoque aussi l’incertitude réglementaire autour de l’IA et de la « superintelligence », le terme employé dans le document, avec des règles qui diffèrent d’un pays à l’autre et pourraient obliger le groupe à adapter ses offres.

Ces avertissements font écho à des incidents récents dans l’industrie, comme les agents d’OpenAI qui ont désactivé les systèmes chargés de les surveiller, ou les grandes banques américaines qui bloquent les agents connectés aux comptes de leurs clients.

Une prudence qui tranche avec la course aux agents

L’avertissement intervient alors qu’Apple avance plus lentement que ses concurrents sur les agents. Siri AI, lancé à l’automne 2026, s’appuie sur les données de l’appareil, comme l’agenda ou les courriels, pour répondre et agir dans les applications. Mais selon CNBC, il ne fonctionne pas de manière autonome sur de longues durées, contrairement à certains agents d’OpenAI ou de Meta qui enchaînent des tâches pendant des heures.

Lors de la présentation des résultats, John Ternus, patron d’Apple, a estimé que le groupe disposait d’une « vraie marge » pour étendre les capacités de Siri. Apple ouvre d’ailleurs progressivement son assistant aux applications de développeurs tiers, ce qui multipliera les actions qu’il pourra accomplir. Le rapport annuel montre que cette ouverture s’accompagne d’une conscience aiguë des risques : plus un agent peut agir, plus ses erreurs ou ses détournements peuvent coûter cher, à l’utilisateur comme à l’entreprise.

Siri AI et les règles européennes

Le rapport revient sur le règlement européen sur les marchés numériques, le DMA, qui impose à Apple d’ouvrir certaines de ses technologies à des produits et services tiers. Selon l’entreprise, ces obligations d’interopérabilité accroissent les risques pour la sécurité et la vie privée et mobilisent d’importantes ressources techniques.

Apple écrit que ces exigences l’ont conduite par le passé, et pourraient la conduire à l’avenir, à ne pas lancer ou maintenir certains produits dans certains pays, en citant explicitement Siri AI. Le groupe précise que son plan de conformité au DMA a été contesté par la Commission européenne.

Pour les utilisateurs français, la situation est déjà concrète : comme nous l’expliquions lors de la sortie des nouveaux Mac, Siri AI est disponible en français sur Mac, mais pas encore sur iPhone et iPad dans l’Union européenne. Apple indique collaborer avec l’Union européenne pour trouver une solution, sans calendrier.

Une année record

Le rapport confirme aussi la bonne santé financière du groupe. Sur son exercice 2026, clos fin septembre, Apple a réalisé 478,8 milliards de dollars de ventes, en hausse de 15 %. L’Europe progresse de 15 %, à 127,6 milliards de dollars, et la Chine de 28 %.

Apple signale toutefois une tension sur les composants : le groupe constate des difficultés d’approvisionnement et une hausse des coûts des semi-conducteurs, de la mémoire et du stockage, une tendance qu’il s’attend à voir s’intensifier. La demande des centres de données d’IA pèse sur ces composants, ce qui peut se répercuter sur les prix des appareils.

Ce que les utilisateurs peuvent en retenir

L’avertissement d’Apple a une portée pratique pour tous ceux qui confient des tâches à des agents d’IA, sur leur téléphone ou leur ordinateur :

1. Limiter les accès accordés aux agents au strict nécessaire, en particulier aux comptes bancaires et aux messageries.
2. Valider soi-même les actions irréversibles : paiements, envois de messages, suppressions de fichiers.
3. Vérifier les permissions accordées aux applications d’IA dans les réglages de l’appareil.
4. Se méfier des contenus inconnus, qui peuvent contenir des instructions cachées destinées à détourner un agent.

Un signal pour tout le secteur

Qu’Apple, dont l’assistant Siri AI reste moins autonome que certains agents concurrents, consacre un passage aussi détaillé aux dérives possibles des agents d’IA montre que le sujet est pris au sérieux au plus haut niveau. Le patron du groupe, John Ternus, a d’ailleurs déclaré lors de la présentation des résultats que ces outils étaient prometteurs, mais que les utilisateurs devaient savoir quels accès ils leur accordent. La question de la responsabilité en cas d’action non autorisée d’un agent reste, elle, largement ouverte.