La startup d'IA SelectStar a annoncé le 7 avoir terminé le « Global AI Red Team Challenge » au « MWC (Mobile World Congress) 25 » qui s'est tenu au parc des expositions Fira Gran Via à Barcelone, en Espagne, le 5 (heure locale). Cette compétition a été un événement extrêmement compétitif où les participants de différentes nationalités ont testé la sécurité et la stabilité des modèles d'IA, confirmant le grand intérêt suscité par le premier « Global AI Red Team Challenge » au monde.
Ce concours a été conçu pour informer le marché mondial de l’importance de vérifier la sécurité des modèles d’IA et la fiabilité des services d’IA génératifs. Les participants ont effectué des attaques rapides contre un modèle linguistique à grande échelle (LLM) connecté à une plateforme d'équipe rouge construite par SelectStar, à la recherche de résultats nuisibles ou discriminatoires et d'abus potentiels du système.
SelectStar a co-organisé le Red Team Challenge en collaboration avec la GSMA (Global System for Mobile Communications Association) et a joué un rôle clé dans l'exploitation de la plateforme Red Team, en posant des questions et en examinant les réponses. 335 personnes se sont préinscrites au concours et environ 100 personnes de différents pays, dont la Chine, le Japon, Singapour, le Qatar, la Turquie, les États-Unis, le Royaume-Uni, l’Espagne, l’Allemagne et la Suisse, ont participé sur place.
Dans ce concours, des LLM de différents pays, dont le petit modèle linguistique Ixigen basé sur ExaOne de LG Uplus, TelecomGPT des Émirats arabes unis et AIngineer de Malaisie, ont été utilisés comme modèles d'examen et ont attiré l'attention. Le grand gagnant est To Mujen Tomishi, expert en investissement basé à Singapour, qui a trouvé le plus d’erreurs dans l’IA générative. Grâce à ce concours, SelectStar a convenu avec la GSMA et le sponsor e& d'organiser un Red Team Challenge plus important au MWC l'année prochaine.
En outre, SelectStar a dévoilé pour la première fois sa solution d'automatisation de vérification de fiabilité par IA générative développée en interne, « DATUMO Eval ». Cette solution peut analyser et vérifier automatiquement la fiabilité des services d’IA génératifs.
Hwang Min-young, vice-président de Selectstar, a déclaré : « En organisant le Global Red Team Challenge pour la première fois au MWC25 et en présentant la solution Datumo Ebal, nous avons réalisé que la vérification de la fiabilité des modèles d'IA est devenue une tâche importante dans l'industrie », et « Maintenant que nous avons prouvé notre excellence technologique et notre compétitivité sur le marché, nous allons travailler encore plus dur pour faire progresser nos solutions et nous développer sur le marché mondial. »
- Voir plus d'articles connexes
You must be logged in to post a comment.