L'article intitulé « CAGE : Un cadre pour la génération de benchmarks d'équipes rouges culturellement adaptées », développé par l'équipe de sécurité IA de Selectstar (PDG Se-yeop Kim), a été accepté pour la conférence principale de l'ICLR 2026 qui se tiendra au Brésil en avril.
ICLR est une conférence internationale de premier plan dans les domaines de l'IA et de l'apprentissage automatique. Cette année, seuls les 28 % meilleurs articles parmi environ 19 000 ont été retenus. Les articles SelectStar sont sélectionnés pour la session principale, témoignant d'une reconnaissance internationale pour leur originalité et leur rigueur technique. La recherche a été menée intégralement par les équipes internes de l'entreprise, sans intervention extérieure.
La technologie CAGE génère automatiquement des données d'entraînement à l'attaque (red teaming) pour vérifier la sécurité des modèles d'IA, en tenant compte des contextes culturels et juridiques de chaque pays. Contrairement aux méthodes existantes qui s'appuient sur des traductions de données provenant principalement de pays anglophones, CAGE génère des questions d'attaque localisées grâce à la technique du « moule sémantique », testant ainsi la robustesse des modèles d'IA et détectant efficacement les risques potentiels. Elle a également démontré d'excellentes performances dans des régions linguistiques où les données sont rares, comme le Cambodge.
L'article présente également « KoRSET », un banc d'essai de sécurité adapté au contexte coréen. KoRSET détecte les vulnérabilités des modèles d'IA plus efficacement que les jeux de données de traduction classiques, démontrant ainsi des performances optimisées pour la vérification de la sécurité en fonction de la culture coréenne.
La technologie CAGE est également utilisée dans le secteur industriel pour identifier les vulnérabilités des modèles et améliorer l'efficacité opérationnelle des projets d'IA à grande échelle auxquels SelectStar participe. Kim Min-woo, responsable de l'équipe Sécurité IA, a déclaré : « L'adoption d'ICLR témoigne de la position incontestée de SelectStar en tant qu'entreprise leader dans le domaine des technologies d'IA. »
S’appuyant sur ce succès, SelectStar prévoit d’étendre sa solution d’évaluation de la fiabilité aux secteurs exigeant un niveau de sécurité élevé, tels que la finance et le secteur public. L’article sera publié en mars sur la plateforme open source arXiv.
- Voir plus d'articles connexes
You must be logged in to post a comment.