Sujet
Tous les articles d’Actu.ai consacrés à EleutherAI : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 3 articles
Peut-on empêcher un modèle d’IA accessible au public d’apprendre des savoirs dangereux avant même sa diffusion ? Des chercheurs d’Oxford, d’EleutherAI et de l’UK AI Security Institute ont testé une réponse : retirer ces contenus des données d’entraînement. Leur méthode préserverait les performances générales tout en compliquant les modifications malveillantes.
Les attaques par inférence d’appartenance sont couramment utilisées pour savoir si un texte a servi à entraîner un modèle de langage. Une évaluation menée par des chercheurs, dont David Evans, montre pourtant que ces tests peuvent être peu fiables. En cause, la difficulté à définir ce qui distingue réellement une donnée d’entraînement d’une donnée extérieure.
Présentée par l’Open Source Initiative, l’Open Source AI Definition veut mettre fin au flou autour des modèles dits ouverts. Son principe : garantir quatre libertés d’usage, d’étude, de modification et de partage, tout en exigeant des informations utiles sur l’entraînement.
