セレクトスター、AI安全性検証技術ICLR 2026メインカンファレンスを採用

セレクトスター（代表キム・セヨプ）のAI Safetyチームが開発した論文「CAGE: A Framework for Culturally Adaptive Red-Teaming Benchmark Generation」が4月、ブラジルで開かれるICLR 2026メインカンファレンスに採択された。

ICLRはAIと機械学習の分野で最上位圏国際学会で、今年約1万9千件の論文のうち上位28%だけが採択された。セレクトスター論文はメイントラックに選ばれ、独創性と技術的完成度を国際的に認められた。研究は外部機関なしで会社内部人材だけで行われた。

CAGE技術は各国の文化と法的環境を反映してAIモデルの安全性を検証するレッドティーミングデータを自動生成する。既存の方式が英米圏中心データの翻訳に依存していたのとは異なり、「セマンティックモールド（Semantic Mold）」を通じてローカライズされた攻撃質問を生成し、AIモデルの防御率をテストし、潜在的なリスクを効果的に検出する。カンボジア語などのデータが不足している言語圏でも優れた性能を見せた。

論文では韓国型安全性ベンチマーク「KoRSET」も公開された。 KoRSETは、既存の単純翻訳データセットよりもAIモデルの脆弱性をより効果的に検出し、韓国文化ベースの安全性検証に最適化された性能を実証した。

CAGE技術は産業現場にも適用され、セレクトスターがコラボレーションする大企業AIプロジェクトでモデルの脆弱性点検と運用効率改善に活用されている。キム・ミンウAI Safetyチーム長は「ICLR採用はセレクトスターが独歩的なAI源泉技術企業であることを示す事例」と話した。

セレクトスターは今回の成果を基に金融・公共など高度な安全性が求められる産業群として信頼性評価ソリューションを拡大する計画であり、論文は3月オープンソースプラットフォームArxivで公開される予定だ。

• 関連記事をもっと見る