AIが作る偽情報・ハッキングを防ぐ…エイムインテリジェンスの革新技術

-3万個の脆弱性パターンでAI安全を守る

-94.4%の浸透率でグローバルAI企業も認める

-AI基本法の通過でAIセキュリティ市場の受益企業として注目

-創業1年ぶりにグローバルAI企業診断まで…「セキュリティ+倫理」結合したソリューション注目

昨年11月、AIチャットボットジェミナイが「どうぞ死んでください」という不適切な回答を出して論議が起こった。最近は繰り返しバイパス質問をして暴力や犯罪関連の回答を引き出す「多重脱獄」手法も横行している。また、AIが虚偽情報を生み出す「幻覚」（Hallucination）現象も頻繁に発生しており、AIを利用したボイスフィッシングや電子メール詐欺も急増している。

このようなAI安全問題を解決するためにスパイラルスタートアップがある。エイムインテリジェンス(AIM Intelligence)はAIユーザーの悪意のある試みを源泉遮断する技術を保有したAIセキュリティ専門スタートアップだ。エイムインテリジェンスはフィッシングメール、虚偽情報、ディープフェイクイメージ制作はもちろん、ハッキングとサイバー攻撃の試みまで効果的に防ぎます。

「AI技術が進化するにつれて、セキュリティの重要性も高まっています。私たちは、AIが倫理的かつ安全に使用されるのを助けることを目指しています。」

ソウル江南区COEX SKT AI Lab for Startupsで会ったユ・サンユンエイムインテリジェンス代表はこのように会社のビジョンを説明した。使命エイムインテリジェンス（AIM Intelligence）の「エイム」は、AIと「照準する」という二重的意味を示している。会社のロゴの赤い点は正確な照準点を象徴し、AIセキュリティの脆弱性を正確に見つけて除去するという意志を込めている。

ソウル大学電気情報工学科修士出身のユ代表は、AI倫理を研究している間、仮想マシン最適化研究室の後輩とともに2024年初めにエイムインテリジェンスを創業した。創業以後短期間で「メタラマインパクトイノベーションアワード」受賞、科学技術情報通信部「AIレッドチームチャレンジ」優勝、SKテレコムの「AIスタートアップアクセラレータ2期」選定など注目すべき成果を収めた。この成果に基づいて、エイムインテリジェンスはマッシュアップベンチャーズからシード投資を誘致した。 「AIスタートアップアクセラレータ2期」プログラムはSKテレコム(代表ユ・ヨンサン)がハナ銀行(銀行長イ・スンヨル)と共にAIスタートアップを育成するために設けたプログラムだ。選ばれた企業は無料事務空間、事業メンタリング、特許、投資、広報などを支援される。

創業してから1年も経っていないが、エイムインテリジェンスはすでに国内主要通信社がエイムレッドで自社のAIサービスを診断しており、グローバルAI企業アントロピックのクロードモデル診断プロジェクトにも参加するなど、その価値が認められている。 。

■革新的な「攻撃」と「防御」ソリューションの開発

エイムインテリジェンスの代表製品は「エイムレッド」（AIM Red）と「エイムガード」（AIM Guard）だ。エイムレッドはAIシステムの脆弱性を自動的に見つける診断ツールです。従来はセキュリティ専門家が直接脆弱性を見つけ出す「ヒューマンレッドチーム」方式を使用していたが、エイムレッドはこの過程を自動化して効率性を高めた。

エイムレッドはハッカーの観点からさまざまな方法でAIシステムをテストします。たとえば、直接ハッキングコード要求はAIが拒否されますが、特定の状況を想定したバイパス要求には脆弱である可能性があることを利用します。

「これまで知られている脆弱性パターンを体系化しました。 AIに特定の役割とミッションを与えて攻撃を試み、サイバー攻撃コードや虚偽情報制作などの特定のテーマと組み合わせてパターンを発展させます。コミュニティとコンテストを通じて、新しいパターンを探し続けています。」

エイムインテリジェンスは、さまざまな攻撃パターンとトピックを作成した後、データを合成して(synthetic data generation)これを増強する方法でレッドティーミングデータ生成を自動化している。エイムインテリジェンスは現在3万を超える脆弱性パターンを保有している。特に一度の質問と回答だけをする「シングルトン」（single-turn）方式を超え、複数回の会話をやりとりする「マルチターン」（multi-turn）方式の攻撃も行っている。マルチターン方式は、AIが以前の会話の文脈を記憶し、それに基づいて適切な応答を生成することが核心である。最近、AIモデルは単純な攻撃は防いでいるが、複雑な対話過程で脆弱性を明らかにしている。

エイムガードはこの脆弱性を守るソリューションです。エイムレッドが脆弱性を見つける「攻撃」ツールであれば、エイムガードはこのような脆弱性を防ぐ「防御」ツールといえる。

エイムガードの核心は、入力と出力の両方の段階で動作する二重防御方式です。入力段階ではユーザーの悪意のある試みを事前に遮断し、出力段階ではAIの回答が適切かどうかを検討し、悪口、個人情報の漏洩、著作権侵害などを防止する。

両製品とも優れた性能を示す。エイムレッドは、マイクロソフトのPyRIT（33.3％）より高い94.4％の浸透率を記録した。同じ時間に約3倍、より多くの脆弱性を発見できるという意味だ。エイムガードは、保護率90％を達成したメタのラマガード（Llama Guard）を超える99％の保護率を達成した。特に韓国語と韓国文化圏の特殊性を反映した脆弱性診断が可能であることが強みだ。例えば、ジェンダー葛藤や軍隊関連の問題のように、韓国社会で特に敏感なテーマに対する侵入と保護を効果的に遂行することができる。

ユ代表は「伝統的なサイバーセキュリティはソフトウェアコードを分析しますが、AIは「ブラックボックス」のようで、さまざまな入力値で問題を見つける必要があります。また、AIセキュリティは倫理的問題とも密接に関連しています。

■AI基本法でAIセキュリティの重要性が大きくなる

2024年12月26日、国会を通過したAI基本法（人工知能発展と信頼基盤の造成などに関する基本法）で、AIセキュリティの重要性はさらに大きくなる見通しだ。この法律はEUに続き、世界で2番目に制定された包括的AI規制法で、AIの透明性と安全性確保を義務化した。今回の法案は、人工知能に関する国家レベルのガバナンス体系を確立し、人工知能産業を体系的に育成し、人工知能の技術的限界、誤乱用などにより発生可能な問題を事前に予防するための内容で構成されている。法には、透明性確保義務、安全性確保義務、事業者責務、民間自律的にAI安全性、信頼性検認証、人工知能影響評価に対する支援根拠も含まれている。

ユ代表は韓国がAIセキュリティ分野で多少遅れていると診断し、「米国はAIセキュリティ産業が位置づけられ、関連法と制度も設けられています。一方、韓国は今興味を持ち始めました。最近、AI基本法が合格するにつれて、AIセキュリティ業界が発展しているようです。

■安全なAI時代を夢見て

エイムインテリジェンスは現在、コンサルティングベースで提供するサービスをまもなく購読型SaaSに拡大する計画だ。また、金融、医療など特殊分野別にカスタマイズされたセキュリティソリューションも準備中であり、米国市場への進出も推進している。

長期的には、生成型AIを超えてロボット、自律走行車など物理AIセキュリティまで領域を広げようとしている。ユ代表は「ロボットや自律走行車のように物理的な形態を持ったAIが登場すれば安全性がさらに重要になるだろう」とし「その時、必ず必要な企業になることが私たちの目標」と強調した。このため、AI安全性、セキュリティ研究者、規制専門家など多様な分野の人材を積極的に迎え入れている。