Sujet
Tous les articles d’Actu.ai consacrés à Éthique de l’IA : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 108 articles
OpenAI a annoncé avoir supprimé des comptes associés à un réseau d’origine chinoise qui sollicitait ChatGPT dans le cadre d’un projet de surveillance des réseaux sociaux. L’affaire illustre les usages à double tranchant des modèles génératifs, mais aussi ce que l’on sait, et ce que l’on ignore encore, du système visé.
Présenté comme une initiative européenne en faveur d’une IA responsable, CERTAIN place la transparence, la sécurité et les droits fondamentaux au centre de son ambition. Mais ces principes doivent être distingués des obligations déjà inscrites dans l’AI Act, le règlement européen sur l’intelligence artificielle.
L’intelligence artificielle ne remplace pas le chercheur, mais elle commence à prendre en charge une partie de son travail, de la lecture d’articles à la génération d’expériences informatiques. Avec AI Scientist de Sakana AI et des outils comme Research Rabbit, la recherche gagne en vitesse, tout en affrontant de nouvelles exigences de contrôle et de transparence.
L’intelligence artificielle transforme la manière de chercher, synthétiser et décider au travail. Elle peut soutenir l’analyse, mais aussi installer une confiance excessive dans des réponses plausibles. Pour les organisations, l’enjeu n’est pas de freiner l’IA : il est d’apprendre aux équipes à la questionner, la vérifier et la contredire lorsque nécessaire.
En apprenant sur d’immenses corpus, les grands modèles de langage produisent des réponses souvent cohérentes et parfois des raisonnements utiles. Leur parenté avec le cerveau humain reste toutefois une analogie limitée : ni conscience, ni expérience du monde, ni garantie de vérité.
Une vidéo virale a fait croire que des célébrités juives, dont Scarlett Johansson et Steven Spielberg, répondaient collectivement aux propos antisémites de Ye. Entièrement générée par IA et réalisée sans leur consentement, elle défend une cause essentielle tout en illustrant les dérives possibles des deepfakes.
Google a supprimé de ses principes d’intelligence artificielle les interdictions explicites visant les armes et certaines formes de surveillance. Début février 2025, le groupe a aussi renoncé à ses objectifs d’embauche chiffrés en matière de diversité. Ces deux changements, expliqués aux salariés, redéfinissent la place de Google dans la course mondiale à l’IA.
Concevoir une intelligence artificielle ne consiste pas seulement à écrire du code performant. Au MIT, le cours Ethics of Computing confronte les futurs ingénieurs aux questions de biais, de responsabilité et de décisions automatisées, avec l’aide de la philosophie. Une formation qui éclaire les choix concrets derrière les technologies.
Google a retiré de ses principes d’IA les interdictions explicites liées aux armes et à certaines formes de surveillance. Sept ans après la fronde du projet Maven, ce changement relance le débat sur les garde-fous exigibles d’un géant technologique dont les outils peuvent aussi servir aux États.
Une lettre ouverte réunissant plus de 100 spécialistes alerte sur un risque encore hypothétique : créer des systèmes d’IA capables de vivre des expériences négatives. Les chercheurs demandent d’étudier sérieusement la conscience artificielle, sans confondre les comportements convaincants des machines avec une véritable vie intérieure.
Faire coïncider les décisions d’une intelligence artificielle avec les valeurs humaines ne consiste pas à lui ajouter une simple charte éthique. Cela suppose de revoir les données, les objectifs, les contrôles et les responsabilités, tout en donnant aux citoyens et aux régulateurs une place dans les choix technologiques.
Conçu par des chercheurs de l’Université de Washington et de l’Allen Institute for Artificial Intelligence, Delphi cherche à produire des réponses à des situations morales du quotidien. En s’appuyant sur 1,7 million de jugements humains, le projet éclaire autant les promesses de l’IA éthique que ses limites profondes.
Dans un message adressé au Forum économique mondial de Davos, le pape François appelle les dirigeants à ne pas laisser l’intelligence artificielle fragiliser davantage le rapport collectif à la vérité. Il met en garde contre les deepfakes, la désinformation et une délégation excessive des décisions humaines aux systèmes automatisés.
Alexa, Siri et les autres assistants vocaux n’ont pas de genre biologique, mais leurs voix et leurs attitudes sont souvent perçues comme féminines ou masculines. Des travaux montrent que ces choix de conception influencent les comportements des utilisateurs et peuvent réactiver des stéréotypes. Faut-il alors privilégier des voix neutres ou laisser le choix ?
Premier souverain pontife invité à un sommet du G7, le pape François a fait de l’intelligence artificielle un enjeu de dignité humaine et de paix. Son intervention à Borgo Egnazia, en juin 2024, a remis au premier plan les risques de désinformation, de décisions automatisées et de concentration du pouvoir technologique.
Les systèmes d’intelligence artificielle ne se contentent pas de reproduire les biais présents dans leurs données d’entraînement. Une étude menée par l’UCL indique qu’ils peuvent aussi influencer les jugements de leurs utilisateurs, au point de renforcer certains stéréotypes sociaux dans une boucle de rétroaction.
Des chercheurs du MIT ont étudié les modèles de récompense qui servent à guider les réponses des IA génératives. Leurs expériences suggèrent que ces systèmes peuvent attribuer des évaluations différentes selon l’orientation politique d’un énoncé, y compris lorsqu’ils sont entraînés à privilégier la vérité factuelle.
La famille de Suchir Balaji, ancien chercheur d’OpenAI devenu critique de ses pratiques en matière de droits d’auteur, réclame une enquête fédérale après sa mort à San Francisco. Elle conteste la conclusion initiale des autorités et demande un examen plus approfondi des circonstances du décès.
Les chatbots peuvent produire des réponses de soutien convaincantes, parfois jugées plus utiles que celles d’autres internautes. Mais une analyse de conversations liées à la santé mentale révèle une limite préoccupante : lorsque des indices raciaux apparaissent dans les messages, l’empathie de GPT-4 varie selon les groupes concernés.
OpenAI a accordé 1 million de dollars à l’Université Duke pour étudier la façon dont l’IA peut prédire et influencer les jugements moraux humains. Mené par le MADLAB, le projet « Making Moral AI » ambitionne de concevoir un prototype de GPS moral, tout en posant une question centrale : qui définit les valeurs intégrées à ces outils ?
Donner un nom, un âge ou des loisirs à une intelligence artificielle ne change pas seulement son image : cela peut modifier la façon dont nous jugeons ses erreurs. Une étude publiée dans PLOS ONE alerte sur un risque majeur, celui de faire de la machine un bouc émissaire au détriment des humains et organisations qui la conçoivent ou l’emploient.
Une intelligence artificielle peut-elle être éthique par nature, ou seulement encadrée par les choix humains qui la façonnent ? Entre biais, désinformation, mécanismes de sécurité et nouvelles règles européennes, la question dépasse largement la technique. Elle oblige à décider quelles valeurs une société souhaite réellement confier aux machines.
Les IA génératives peuvent reproduire des stéréotypes de genre, de religion, d’origine ou d’opinion politique. Développé par des chercheurs de l’UOC et de l’Université de Luxembourg, LangBiTe propose plus de 300 prompts pour tester ces dérives, comparer les modèles et adapter l’évaluation à chaque contexte d’usage.
Une étude du MIT Center for Constructive Communication interroge la neutralité des systèmes chargés d’évaluer la véracité des réponses d’IA. Même entraînés à partir de données dites objectives, des modèles de récompense ont favorisé certaines affirmations politiques, avec un effet qui s’accentue selon leur taille.
