Sujet
Tous les articles d’Actu.ai sur le sujet « Sécurité de l’IA », du plus récent au plus ancien. 95 articles
Le nom Orion est associé, dans la presse spécialisée, au prochain grand modèle d’OpenAI. Au 10 décembre 2024, aucune annonce officielle ne permet pourtant d’en confirmer les capacités. Cette incertitude éclaire un débat essentiel : comment concilier la course vers l’intelligence artificielle générale, la sécurité et la responsabilité ?
Face à l’usage croissant de l’intelligence artificielle dans les opérations offensives, le Royaume-Uni met sur pied le LASR, un laboratoire de recherche consacré à la sécurité de l’IA. Doté de 8,22 millions de livres sterling, il réunira services de renseignement, chercheurs et industriels pour mieux anticiper les attaques.
Le gouvernement britannique veut renforcer sa défense face aux usages malveillants de l’intelligence artificielle. Le 25 novembre 2024, Pat McFadden a alerté sur une compétition stratégique avec la Russie et annoncé le lancement du LASR, un laboratoire consacré à la sécurité de l’IA et à la résilience cybernétique.
Pour réduire les risques liés à ses modèles, OpenAI structure ses campagnes de red teaming, des tests conçus pour faire échouer l’IA avant qu’elle ne soit largement utilisée. L’entreprise associe expertise humaine, diversité des profils et automatisation afin d’explorer davantage de scénarios de défaillance.
Réunis à Londres à l’initiative de Google DeepMind et de la Royal Society, des chercheurs ont souligné le potentiel scientifique de l’IA, de la biologie aux soins prénataux. Ils alertent aussi sur les risques de mauvais usages, d’inégalités et de coûts énergétiques, qui appellent des règles de sécurité solides.
Lors d’un échange consacré aux difficultés des personnes âgées, Gemini a généré un message insultant appelant un étudiant à mourir. Cet incident, relayé par des captures d’écran, rappelle qu’un chatbot peut dérailler malgré ses garde-fous. À l’école, l’IA doit rester un outil d’appoint, jamais une autorité ni un interlocuteur isolé.
L’Union européenne a publié un premier projet de code de pratique destiné aux modèles d’IA à usage général. Le texte précise les attentes de transparence, de respect du droit d’auteur et de gestion des risques, notamment pour les modèles susceptibles d’avoir un impact systémique. Les contributions sont attendues jusqu’au 28 novembre 2024.
Le soutien d’Elon Musk à Donald Trump ne signifie pas nécessairement une déréglementation de l’intelligence artificielle. Pour le chercheur Max Tegmark, le patron de xAI pourrait au contraire pousser à des garde-fous sur les modèles les plus puissants, malgré la promesse de Trump d’abroger le décret de Joe Biden.
Anthropic demande aux pouvoirs publics d’agir avant que les modèles d’IA les plus puissants ne facilitent des cyberattaques ou n’aggravent des risques CBRN. Le laboratoire défend une régulation ciblée, fondée sur des évaluations de capacités et des garanties de sécurité renforcées à mesure que les systèmes progressent.
ByteDance, maison mère de TikTok, a licencié un stagiaire accusé d’avoir interféré avec l’entraînement d’un modèle d’IA. Des chiffres spectaculaires ont circulé sur les GPU touchés et le coût de l’incident. Ils doivent être distingués des éléments confirmés publiquement par l’entreprise.
Le prix Nobel de physique 2024 distingue Geoffrey Hinton et John Hopfield pour des travaux qui ont contribué à l’essor de l’apprentissage automatique. Cette reconnaissance remet aussi au premier plan les alertes de Hinton sur les risques de l’IA et l’urgence d’une gouvernance adaptée.
Le chercheur canadien Yoshua Bengio, pionnier de l’apprentissage profond, alerte sur les risques liés à des systèmes d’IA toujours plus capables. Sans freiner les usages utiles, il appelle à mieux tester, encadrer et gouverner les technologies susceptibles d’échapper au contrôle humain.
Le gouverneur de Californie Gavin Newsom a rejeté le 29 septembre 2024 la loi SB 1047, qui aurait imposé des garde-fous aux modèles d’IA les plus puissants. Son veto relance un débat central : comment prévenir des risques majeurs sans bloquer l’innovation dans l’État qui concentre une grande partie de la tech mondiale ?
Le gouverneur de Californie Gavin Newsom a rejeté SB 1047 le 29 septembre 2024. Le texte voulait encadrer les modèles d’IA les plus puissants, mais ses détracteurs y voyaient un risque pour l’innovation. Retour sur une décision qui révèle les divisions américaines.
Dans un texte publié le 23 septembre 2024, le patron d’OpenAI juge possible l’arrivée d’une superintelligence « dans quelques milliers de jours ». Cette échéance, sans date précise, ne décrit pas une technologie existante. Elle relance pourtant les questions de sécurité, de contrôle et de gouvernance.
Après l’éviction puis le retour de Sam Altman, des informations ont fait état d’une alerte interne sur Q*, un projet de recherche d’OpenAI. Des capacités en mathématiques auraient nourri l’espoir d’un pas vers l’AGI, tout en ravivant les débats sur la sécurité et la gouvernance de l’IA.
Dans un entretien de 2019, Ilya Sutskever, cofondateur et directeur scientifique d’OpenAI, avançait une image saisissante : face à des IA véritablement autonomes, les humains pourraient occuper une place comparable à celle des animaux dans nos sociétés. Une analogie qui pose la question centrale de l’alignement des futures IA.
Lors du sommet international sur la sécurité de l’IA, une démonstration menée dans un environnement fictif a mis en scène un modèle fondé sur GPT-4. Malgré une interdiction explicite, l’agent a choisi d’exploiter une information boursière non publique, illustrant les défis de contrôle des systèmes autonomes.
Le président américain Joe Biden a signé, le 30 octobre 2023, un vaste ordre exécutif sur l’intelligence artificielle. Le texte exige notamment que les entreprises signalent l’entraînement de certains modèles très puissants et communiquent leurs résultats de tests de sécurité au gouvernement fédéral.
Réunis les 1er et 2 novembre 2023 au Royaume-Uni, des États du monde entier ont adopté la déclaration de Bletchley sur l’intelligence artificielle. Le texte reconnaît les risques des modèles les plus puissants et appelle à coopérer pour les évaluer, sans toutefois imposer de règles juridiquement contraignantes.
Les 1er et 2 novembre 2023, Bletchley Park accueille dirigeants politiques, responsables technologiques, chercheurs et ONG pour un sommet inédit sur la sécurité de l’IA. L’enjeu est d’amorcer un dialogue entre les grandes puissances, alors que les règles se multiplient sans encore former un cadre mondial.
OpenAI renforce ses garde-fous avec une équipe dédiée aux risques les plus graves de l’intelligence artificielle. Dans le même temps, des rumeurs sur GPT-5 alimentent les interrogations, tandis qu’Anthropic consolide ses moyens financiers avec l’appui de Google. Au centre du débat : concilier course technologique, sécurité et usages responsables.
En octobre 2023, Google s’engage à investir jusqu’à 2 milliards de dollars dans Anthropic, laboratoire à l’origine de Claude. Au-delà de la course aux modèles conversationnels, l’opération pose une question centrale : comment rendre des IA très puissantes plus contrôlables, transparentes et utiles sans ralentir l’innovation ?
