ハイパーエクセル、アップステージコンソーシアム合流…独自AIファンデーションモデルインフラ協力

AI半導体スタートアップハイパーエクセルがアップステージコンソーシアムを通じて政府の独自AIファンデーションモデル協力エコシステムに合流する。

ハイパーエクセルは、生成型AIの実際の応用環境に最適化されたLLM推論専用のAI半導体を設計・開発する企業だ。超巨大言語モデルサービス段階で発生する演算ボトルネックと電力および運用コストの問題を解決するために、独自のアーキテクチャベースのLPU（LLM Processing Unit）を開発してきました。

今回のコンソーシアム参加を通じて、ハイパーエクセルは独自のAIモデル拡散のための推論インフラの高度化と効率化に協力する計画だ。 LLM推論に特化したLPU設計と性能改善、生成型AIアプリケーション環境に最適化された推論加速技術研究開発をベースに、高効率・低コストAIサービスインフラの実現に乗り出す。

また、vLLMとPyTorchベースの高可用性（HA）フルスタックソフトウェアスタックの開発と提供を主な役割で行う予定です。これにより推論性能と安定性を同時に確保するインフラ構造を設ける方針だ。

ハイパーエクセルは、単純半導体供給を超えてハードウェアとサービングソフトウェアを統合した構造を構築することで、超巨大モデルの商用化過程で求められる処理効率、電力対比性能、運用安定性を総合的に強化する計画だ。

これにより、独自のAIファンデーションモデルが実際のデータセンターや産業サービス環境で経済性と拡張性を備えた形で運営できるように支援するという説明だ。

キム・ジュヨンのハイパーエクセル代表は、超巨大AI競争はモデル規模だけでなく、これをどれだけ効率的にサービスできるかによって決まる。

• 関連記事をもっと見る