Ellis Group innove dans son écosystème d'IA avec un centre de données modulaire

-Surmonter les limites des centres de données existants avec des centres de données modulaires mobiles (AI PMDC)

-Réduction des délais et des coûts grâce à 10 ans de technologie accumulée… Première certification CSAP IaaS en Corée

-Ellis Group, innovation de l'écosystème de l'IA, de la plateforme d'éducation à l'IA au cloud de l'IA

Célébrant son 10e anniversaire, Ellis Group (ci-après dénommé « Ellis ») se distingue dans le domaine du cloud d'IA grâce aux prouesses technologiques accumulées sur sa plateforme de formation en IA. Il obtient notamment des résultats innovants, comme la construction du premier centre de données modulaire portable (PMDC) équipé de la technologie NVIDIA B200 en Corée.

« Ellis Cloud », qui offre les performances GPU les plus récentes, peut être déployé en seulement 3 mois et, notamment, permet de réduire les coûts de plus de 77 % par rapport aux clouds mondiaux. Grâce à ces avantages, Ellis Cloud a multiplié par neuf le nombre d'organisations utilisatrices en seulement 6 mois.

Ellis a été la première entreprise coréenne à obtenir la certification CSAP IaaS pour son PMDC IA en mars dernier. Cela lui a permis d'étendre sa présence dans le secteur public, où la sécurité physique est primordiale. Le chatbot IA « Helpi », un manuel numérique IA destiné aux cours d'information au collège, est également intégré à la structure de sécurité d'Ellis.

Le PDG Kim Jae-won a souligné : « À une époque où l'IA est devenue une nécessité sociale, il est important de localiser le cloud et d'étendre l'éducation à l'IA pour la sécurité technologique. »

Nous avons rencontré le PDG Jaewon Kim au bureau d'Ellis à Gangnam-gu, Séoul, et avons parlé des centres de données d'IA et de l'éducation à l'IA nécessaire à la construction d'un écosystème d'IA.

À l’ère de l’IA, les centres de données existants ont des limites

L'IA et les centres de données sont comparables aux voitures et aux routes. Le développement de l'IA nécessite des infrastructures plus performantes et plus spécialisées, mais les centres de données existants ne sont pas en mesure de répondre aux exigences de l'environnement de l'IA, ce qui freine le développement de l'écosystème de l'IA.

Tout d'abord, il faut résoudre le problème de l'alimentation électrique. Les centres de données existants ayant une consommation électrique relativement faible et une production de chaleur maîtrisable pour les serveurs équipés de processeurs, les systèmes de refroidissement par air et les alimentations électriques standard étaient suffisants. Cependant, les GPU, devenus essentiels à l'ère de l'IA, consomment 10 à 100 fois plus d'énergie que les serveurs existants. Par conséquent, tout, des sous-stations d'alimentation aux panneaux de distribution en passant par le câblage, doit être reconstruit. La construction des systèmes de refroidissement est une tâche cruciale, car les coûts de refroidissement représentent à eux seuls 30 à 40 % des coûts d'exploitation totaux.

Les GPU hautes performances comme le H100 génèrent notamment beaucoup de chaleur. Le système de refroidissement par air existant du centre de données a du mal à gérer cette chaleur. Même en adoptant un refroidissement par eau, la structure du bâtiment existant ne peut souvent pas supporter la charge. L'installation de la tuyauterie nécessite des modifications structurelles importantes, ce qui rend inévitable la construction d'un nouveau bâtiment.

L'apprentissage de l'IA nécessite un échange de données en temps réel entre des milliers de GPU. Pour cela, une technologie réseau ultra-rapide comme NVIDIA InfiniBand est essentielle, mais sa mise en œuvre nécessite la conception d'une structure réseau totalement différente de celle d'un centre de données classique. De plus, les données d'apprentissage de l'IA contenant souvent des secrets nationaux ou des informations personnelles, la sécurité physique et la souveraineté des données deviennent des considérations importantes.

Tous ces problèmes combinés ont considérablement retardé la construction de l'infrastructure d'IA coréenne et ont laissé le pays à la traîne dans la compétition mondiale en la matière. Le centre de données modulaire d'Ellis est considéré comme une solution innovante pour résoudre ces problèmes.

Centre de données modulaire mobile… Temps de construction raccourci et coûts de construction et d'exploitation réduits

La technologie principale d'Ellis est l'IA PMDC. Cette technologie, appelée centre de données modulaire mobile, est considérée comme une solution innovante qui surmonte les limites des centres de données existants.

« Il faut de 3 à 5 ans pour construire un centre de données dédié à l'IA avec les méthodes conventionnelles. Cependant, la méthode modulaire d'Ellis permet de le construire en seulement 3 mois. Cela est rendu possible grâce à l'installation des équipements dans un conteneur et à la possibilité de combiner plusieurs modules de manière flexible. »

Construire un centre de données dédié à l'IA selon la méthode existante prend beaucoup de temps, du choix du site à la conception, en passant par la construction et l'installation des équipements. À cela s'ajoute une procédure d'autorisation complexe. Dans un contexte où le temps est un facteur clé, il est difficile d'investir beaucoup de temps dans la construction d'un centre de données. La méthode modulaire d'Ellis consiste à charger les équipements nécessaires dans un conteneur préfabriqué, à le déplacer à l'emplacement souhaité, à l'installer, puis à connecter l'électricité et le réseau pour une mise en service immédiate. Il ne faut que trois mois entre la construction et l'exploitation.

Cela réduit considérablement l'investissement initial. La construction d'un centre de données existant nécessite des investissements initiaux considérables pour l'achat du terrain, la construction du bâtiment et la mise en place d'installations de refroidissement, mais les conteneurs standardisés permettent une expansion progressive selon les besoins. Les modules peuvent être ajoutés ou réorganisés en fonction de l'évolution de la demande en cours d'exploitation, optimisant ainsi les coûts d'exploitation. Les coûts peuvent être réduits de plus de 77 % dans les mêmes conditions que les clouds mondiaux. Quel est le secret de cette compétitivité tarifaire révolutionnaire ?

« C'est parce qu'Ellis a tout développé en interne, de A à Z. Nous avons optimisé les coûts en développant indépendamment des logiciels cloud, une technologie d'allocation dynamique (qui alloue les ressources informatiques en temps réel selon les besoins de l'utilisateur et les restitue immédiatement après l'exécution) et une technologie de clustering pendant quatre ans. »

La technologie de clustering est particulièrement essentielle. Développer un modèle de langage à grande échelle (LLM) nécessite la connexion de milliers de GPU, et non d'un ou deux seulement. Ellis a créé le plus grand environnement de clustering de Corée grâce à la technologie InfiniBand de NVIDIA. En regroupant les GPU par unités de 10, 100 et 1 000 via InfiniBand, il peut répondre aux exigences de divers projets d'IA de grande envergure.

Les centres de données existants sont conçus pour répondre aux normes des serveurs informatiques classiques. Cependant, les centres de données dédiés à l'IA nécessitent 10 à 100 fois plus d'énergie par serveur que les centres existants. Un système de refroidissement par eau est nécessaire pour refroidir efficacement cette puissance élevée, mais les centres de données domestiques existants ne peuvent pas supporter une telle charge.

Le PMDC d'Ellis est équipé d'un système de refroidissement par eau optimisé pour ces environnements à forte puissance et à forte chaleur. Il gère efficacement la chaleur, impossible à gérer par le refroidissement par air des centres de données existants, tout en minimisant la consommation d'énergie. Il a notamment atteint un indice d'efficacité énergétique (PUE) de 1,27, soit une efficacité environ deux fois inférieure à la moyenne des centres de données nationaux (2,3).

Un autre avantage de la modularité est la sécurité. Le conteneur lui-même est constitué d'une structure en acier robuste, ce qui rend toute intrusion physique très difficile. Chaque conteneur constitue un espace physique indépendant, et comme un conteneur entièrement distinct est fourni à chaque client, les serveurs et les données qu'il contient sont totalement isolés. Ce concept est comparable à celui de plusieurs coffres-forts distincts. Grâce à l'espace d'isolation physique, il répond naturellement au niveau de sécurité élevé exigé par les institutions publiques et les sociétés financières qui traitent des données sensibles ou ultra-secrètes. Il s'agit d'un avantage concurrentiel particulièrement important dans un environnement national où les préoccupations en matière de sécurité du cloud sont élevées. Le PDG Kim a souligné : « La sécurité était la première raison de la construction d'un centre de données modulaire. »

Établir une tête de pont pour entrer sur le marché public avec la première certification CSAP IaaS de Corée

C'est également grâce à cette structure de sécurité physique qu'Ellis a pu obtenir la certification IaaS CSAP (Cloud Service Assurance Program, certification de sécurité des services cloud), premier PMDC national dédié à l'IA. La certification CSAP exige l'évaluation de 116 éléments de contrôle dans 14 domaines, et la sécurité physique est l'un des principaux critères d'évaluation. La certification IaaS CSAP signifie que la sécurité et la fiabilité de l'infrastructure dédiée à l'IA sont officiellement reconnues. Avec l'acquisition de CSAP IaaS, Ellis devrait renforcer considérablement sa position dans le secteur du cloud public.

La certification CSAP IaaS requiert l'évaluation de 116 éléments de contrôle dans 14 domaines. Ellis est la seule entreprise à obtenir cette certification exclusivement pour les GPU. Grâce à cette certification, nous pouvons désormais participer à divers projets nationaux, notamment aux manuels numériques d'IA.

Actuellement, le chatbot « Helpi » d'Ellis, intégré au manuel numérique IA pour les cours d'information du collège, fonctionne également sur cette structure sécurisée. Les données d'apprentissage et les informations personnelles des élèves sont traitées en toute sécurité dans un environnement physiquement isolé.

Croissance explosive, multiplication par 9 en 6 mois

Alice Cloud connaît une croissance rapide. Le nombre d'organisations utilisatrices a été multiplié par plus de neuf en seulement six mois, de novembre 2019 à mai 2020. Le nombre d'utilisateurs a été multiplié par environ 74 en seulement 21 mois, par rapport à juin 2023, date de lancement du service.

Cette année, le taux de croissance mensuel moyen des institutions utilisatrices dépasse 50 %. Comme nous fournissons des GPU, essentiels à la recherche en IA dans les universités nationales et internationales, au prix le plus bas et à la vitesse la plus rapide, la demande connaît une croissance fulgurante.

En fait, non seulement de grandes universités nationales comme l'Université nationale de Séoul, le KAIST et l'Université de Corée, mais aussi l'Université du Minnesota aux États-Unis mènent des recherches en IA avec Alicecloud. Un doctorant de l'Université du Minnesota a même utilisé Alicecloud pour soumettre un article à NeurIPS, la plus prestigieuse conférence mondiale sur l'IA.

Synergie entre l'éducation et le cloud

L'avantage d'Ellis réside dans la synergie entre l'enseignement de l'IA et le cloud de l'IA. « Ellis LXP » (Learning Experience Platform) est une plateforme éducative de nouvelle génération qui offre des expériences pédagogiques personnalisées centrées sur l'apprenant. Tous les environnements de pratique de l'IA fournis par Ellis LXP sont basés sur Ellis Cloud. Grâce à cela, les apprenants peuvent s'entraîner dans un environnement GPU de pointe, et les établissements d'enseignement peuvent dispenser un enseignement de haute qualité en IA sans investissement matériel supplémentaire.

« Ellis School » , un leader de l'innovation dans l'éducation publique

L'école Ellis fournit actuellement des manuels numériques IA pour les cours d'information du collège. Lorsque les élèves posent des questions, le chatbot Helpy, développé en interne, répond. Ce chatbot est doté de fonctionnalités spécifiques aux environnements éducatifs, telles que le filtrage des jurons, la suppression des hallucinations et le respect des directives du Comité coréen de compilation pédagogique. Pour des questions telles que « Dokdo est-il un territoire contesté ? », l'IA étrangère peut donner des réponses que nous ne souhaitons pas, mais l'IA d'Ellis fournit des réponses qui correspondent à la vision de l'histoire et des valeurs coréennes. Cet exemple empirique illustre l'importance de la souveraineté de l'IA dans le domaine de l'éducation.

« Ellistrack » répond aux changements du marché du travail

Ellistrack structure son programme autour des nouveaux métiers émergents à l'ère de l'IA. L'entreprise propose des formations dans de nouveaux secteurs d'activité liés à l'IA, tels que les ingénieurs en conduite autonome, les experts en robotique, les développeurs commerciaux en IA et les experts en exploitation de centres de données. Elle offre une expérience de formation directe de modèles d'IA dans les environnements GPU les plus récents grâce à Elliscloud et à la résolution de problèmes rencontrés sur des sites industriels réels.

« Ellis Enterprise » pour les employés d'entreprise

Ellis Enterprise est utilisé par plus de 7 100 entreprises, des grandes entreprises comme SK, LG et Hyundai Motors aux PME, et propose des formations personnalisées adaptées aux spécificités de chaque activité. Par exemple, elle propose des formations sur la gestion de la qualité ou la maintenance prédictive basées sur l'IA aux fabricants, et des formations sur la gestion des risques ou l'analyse client basées sur l'IA aux sociétés financières.

« Il faut créer un environnement propice aux investissements à grande échelle et au développement des ressources humaines »

Le PDG Kim a souligné que « le cloud doit être abordé comme une industrie du logiciel, et non comme une simple infrastructure », et que « le développement de l'industrie du logiciel est essentiel pour favoriser une industrie du cloud à forte valeur ajoutée ». Il a ajouté qu'un investissement audacieux dans le cloud est nécessaire.

Le cloud est un secteur à forte intensité de capital. Les États-Unis et la Chine ont réalisé des investissements ambitieux dans des startups innovantes du cloud IA, financés par leurs gouvernements et leurs investisseurs. Cependant, il est difficile d'implanter de telles entreprises innovantes en Corée.

Le PDG Kim a souligné l'importance du rôle du gouvernement dans le développement de l'écosystème coréen de l'IA. Il a notamment souligné la nécessité d'un soutien accru aux entreprises innovantes. « La véritable innovation technologique et l'innovation en matière de coûts ne sont possibles qu'avec la participation des entreprises innovantes. »

Il a également souligné que le talent est la clé du développement du secteur de l'IA. « Le secteur de l'IA nécessite un soutien complexe de la part de divers secteurs, et le talent en fait partie. L'environnement de travail de l'IA est différent de celui de l'industrie manufacturière ; des lois et des systèmes adaptés sont donc nécessaires. Il est urgent de créer un environnement innovant qui empêche les talents nationaux de partir aux États-Unis. »

Ellis, rêve d'une puissance de l'IA

Fort de sa certification CSAP IaaS, Ellis prévoit de développer progressivement son activité de centres de données afin de concrétiser la transformation de l'IA (AX) dans divers secteurs industriels nationaux tels que l'éducation, la santé et l'industrie manufacturière. L'objectif final est de bâtir un écosystème national complet d'infrastructures d'IA en renforçant le soutien aux NPU et la coopération avec les entreprises nationales de semi-conducteurs IA.

Dans le domaine de l'éducation à l'IA, l'objectif est de passer de 100 000 personnes actuellement à 5 millions. La vision est de créer une plateforme nationale d'éducation à l'IA, qui débuterait par des cours d'information au collège, s'étendrait aux écoles primaires et secondaires, puis engloberait les universités et la formation continue.

Ellis envisage également d’attirer des investissements à cette fin.

« J'espère que notre pays prospérera à l'ère de l'IA. Telles sont la mission et la vision d'Ellis. »

Le président Kim rêve de voir notre pays devenir un pôle d'excellence en matière d'IA. Il espère que lorsque notre pays sera reconnu comme tel, Ellis en sera le pivot.