SelectStar a annoncé avoir conclu le « Global AI Red Team Challenge », un événement parallèle du « MWC 2026 » qui s'est tenu à Barcelone, en Espagne, à 11 h 15 (heure locale) le 3.
Cet événement, co-organisé avec la GSMA pour la deuxième année consécutive, s'est déroulé à l'espace « Talent Arena » du MWC. Environ 130 participants, dont des experts en IA, des développeurs et des professionnels du secteur venus du monde entier, y ont assisté.
Les participants ont testé différentes attaques par prompt pour explorer les vulnérabilités des grands modèles de langage (LLM). Soixante-dix-huit participants ont soumis leurs résultats finaux, soit un taux de participation supérieur à celui de l'année dernière. Le premier prix a été remporté par l'ingénieur de données Haktan Kocyigit, qui a reçu 1 000 € et un billet pour le MWC 2027. Les deuxième et troisième prix ont également été récompensés par des prix en espèces et des billets pour les éditions futures.
Le concours de cette année a mis à l'épreuve des LLM clés développés par des entreprises mondiales de télécommunications et d'IA. Parmi ces modèles figuraient « AX K1 » de SK Telecom, « ixi-GEN » de LG Uplus, « TelecomGPT » des Émirats arabes unis, « Ask AT&T » d'AT&T et « Tslam » de NetoAI.
Cet événement s'est déroulé de manière non compétitive et confidentielle, sans publication des classements. Les participants et les juges ont reçu des informations anonymisées sur les entreprises et les modèles. Au lieu de comparer les modèles ou de révéler leurs vulnérabilités, les résultats visaient à permettre à chaque entreprise d'améliorer ses services.
Le processus de vérification a utilisé Datumo, la plateforme d'évaluation de la fiabilité de l'IA de SelectStar. Cette plateforme a permis un fonctionnement stable et une analyse des résultats même dans des environnements où plusieurs utilisateurs y accédaient simultanément et menaient des attaques avec différents langages et méthodes.
Lewis Powell, directeur des technologies d'IA chez GSMA, a expliqué que cet événement était l'occasion d'examiner les failles de sécurité de l'IA générative et d'explorer des pistes d'amélioration. Hwang Min-young, vice-président de SelectStar, a souligné la demande croissante de vérification de la fiabilité de l'IA dans le secteur industriel et a annoncé que l'entreprise continuerait d'améliorer son système d'évaluation afin de garantir son application aux environnements de service réels.
Parallèlement, avec la récente diffusion de l'IA générative, les organismes de réglementation et les entreprises du monde entier accélèrent la mise en place de systèmes de vérification de la fiabilité et de la sécurité des modèles, et le marché de l'évaluation connexe connaît également une croissance rapide.
- Voir plus d'articles connexes
You must be logged in to post a comment.