셀렉트스타, MWC25서 ‘글로벌 AI 레드팀 챌린지’ 종료

AI 스타트업 셀렉트스타는 5일(현지 시각) 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 ‘MWC(모바일 월드 콩그레스)25’에서 ‘글로벌 AI 레드팀 챌린지’를 마쳤다고 7일 밝혔다. 이 대회는 다양한 국적의 참가자들이 AI 모델의 보안과 안정성을 테스트하며 치열한 경쟁을 펼친 행사로, 세계 최초의 ‘글로벌 AI 레드팀 챌린지’에 대한 높은 관심을 확인할 수 있었다. 이번 대회는 AI 모델의 보안 및 생성형 AI 서비스 신뢰성 검증의 중요성을 글로벌 시장에 알리기 위해 마련됐다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼에 연결된 대규모언어모델(LLM)을 대상으로 프롬프트 공격을 수행하고, 유해하거나 차별적인 결과 및 시스템 오용 가능성을 찾아냈다. 셀렉트스타는 GSMA(세계이동통신사업자연합회)와 협력하여 레드팀 챌린지를 공동 주최하고, 레드팀 플랫폼 운영 및 문제 출제, 응답 검수 등의 핵심 역할을 담당했다. 대회에는 335명이 사전 신청했으며, 현장에서는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국가의 100여 명이 참가했다. 이번 대회에서는 LG유플러스의 엑사원 기반 소형 언어모델 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 다양한 국가의 LLM이 출제 모델로 활용되어 주목을 받았다. 최종 우승자는 생성형 AI의 오류를 가장 많이 찾아낸 싱가포르의 투자 전문가 투 무젠 토미시가 차지했다. 셀렉트스타는 이번 대회를 통해 GSMA, 후원사 e&와 함께 내년 MWC에서 더 큰 규모의 레드팀 챌린지를 진행하기로 합의했다. 또한 셀렉트스타는 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 처음 공개했다. 이 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석하고 검증할 수 있다. 황민영 셀렉트스타 부대표는 "이번 ‘MWC25’에서 최초로 글로벌 레드팀 챌린지를 개최하고, '다투모 이밸' 솔루션을 선보이게 되어 AI 모델 신뢰성 검증이 업계에서 중요한 과제로 자리잡았음을 실감했다"며 "기술 우수성과 시장 경쟁력을 입증했으므로, 솔루션 고도화와 글로벌 시장 확장에 더욱 힘쓸 것"이라고 밝혔다. 관련 기사 더보기 https://www.venturesquare.net/958992