셀렉트스타, AI 안전성 검증 기술 ICLR 2026 메인 컨퍼런스 채택

셀렉트스타(대표 김세엽)의 AI Safety팀이 개발한 논문 ‘CAGE: A Framework for Culturally Adaptive Red-Teaming Benchmark Generation’이 오는 4월 브라질에서 열리는 ICLR 2026 메인 컨퍼런스에 채택됐다. ICLR은 AI와 머신러닝 분야에서 최상위권 국제 학회로, 올해 약 1만 9천 건의 논문 중 상위 28%만이 채택됐다. 셀렉트스타 논문은 메인 트랙에 선정되며 독창성과 기술적 완성도를 국제적으로 인정받았다. 연구는 외부 기관 없이 회사 내부 인력만으로 진행됐다. CAGE 기술은 각국의 문화와 법적 환경을 반영해 AI 모델의 안전성을 검증할 레드티밍 데이터를 자동 생성한다. 기존 방식이 영미권 중심 데이터의 번역에 의존했던 것과 달리, ‘시맨틱 몰드(Semantic Mold)’를 통해 현지화된 공격 질문을 생성, AI 모델의 방어율을 테스트하고 잠재적 위험을 효과적으로 탐지한다. 캄보디아어 등 데이터가 부족한 언어권에서도 우수한 성능을 보였다. 논문에서는 한국형 안전성 벤치마크 ‘KoRSET’도 공개됐다. KoRSET은 기존 단순 번역 데이터셋보다 AI 모델의 취약점을 더 효과적으로 탐지하며, 한국 문화 기반 안전성 검증에 최적화된 성능을 입증했다. CAGE 기술은 산업 현장에도 적용돼, 셀렉트스타가 협업하는 대기업 AI 프로젝트에서 모델 취약점 점검과 운영 효율 개선에 활용되고 있다. 김민우 AI Safety 팀장은 “ICLR 채택은 셀렉트스타가 독보적 AI 원천 기술 기업임을 보여주는 사례”라고 말했다. 셀렉트스타는 이번 성과를 기반으로 금융·공공 등 고도의 안전성이 요구되는 산업군으로 신뢰성 평가 솔루션을 확대할 계획이며, 논문은 3월 오픈소스 플랫폼 Arxiv에서 공개될 예정이다. 관련 기사 더 보기 https://www.venturesquare.net/1038339/