KAYTUS, l'un des principaux fournisseurs de solutions d'IA et de refroidissement liquide de bout en bout, participera au « AI EXPO KOREA 2025 International Artificial Intelligence Exhibition » qui se tiendra au COEX du 14 au 16, et présentera le logiciel AI DevOps « MotusAI » et une « solution AI DevOps » intégrée. La solution DevOps IA de bout en bout de KTUS intègre MotusAI et les systèmes de cluster pour prendre en charge de manière transparente l'ensemble du cycle, du développement du modèle d'IA au déploiement.
Aujourd’hui, l’IA générative (GenAI) évolue rapidement au-delà de la formation de modèles vers un déploiement à grande échelle et une inférence en temps réel. En particulier, l’IA est pleinement utilisée dans divers domaines industriels tels que les voitures autonomes, les villes intelligentes, la finance quantitative, les soins de santé et la fabrication, et s’impose comme un moteur clé de l’innovation commerciale. Cependant, les entreprises sont toujours confrontées à des obstacles techniques importants lorsqu’elles appliquent l’IA à des environnements commerciaux réels. L’utilisation inefficace des ressources GPU, la faible efficacité de la planification des ressources, les interruptions fréquentes des applications, la lenteur du traitement des données et la lenteur du déploiement sont identifiées comme les principaux obstacles entravant la transition vers l’IA.
KTUS fournit une solution d'infrastructure intégrée qui résout fondamentalement la complexité des systèmes d'IA et prend en charge les applications d'IA pour conduire à des résultats commerciaux réels. Lors du salon international de l'intelligence artificielle « AI EXPO KOREA 2025 » de cette année, « MotusAI » et sa solution de serveur intégrée pour les applications d'IA seront exposés. La démonstration en direct de MotusAI vous montrera comment un seul opérateur peut gérer efficacement un cluster d'IA complexe et déployer des modèles d'apprentissage en profondeur et des services d'inférence en moins de 5 minutes. De plus, les visiteurs pourront découvrir de première main des fonctionnalités clés telles que le déploiement en moins d'une seconde de l'environnement de développement, la planification des ressources et le déploiement rapide du modèle.
De cette manière, K2US présente un plan de réponse complet pour les tâches d'infrastructure d'IA via MotusAI et sa solution de bout en bout « AI DevOps », aidant les entreprises à intégrer les flux de travail d'IA plus rapidement et de manière plus stable.
◆ K2US MotusAI, renforce la planification des ressources IA et l'orchestration des tâches
KTUS MotusAI est une plateforme DevOps d'IA qui améliore considérablement l'efficacité, la stabilité et la simplicité tout au long du processus, du développement du modèle d'IA au déploiement. Il réduit considérablement l'investissement en ressources, améliore l'efficacité du développement et augmente l'utilisation des ressources de calcul en cluster à plus de 70 %, tout en améliorant considérablement les performances de planification des tâches d'apprentissage à grande échelle.
MotusAI améliore l'efficacité des ressources grâce à une planification GPU efficace et à une orchestration de la charge de travail. Il fournit des stratégies avancées de planification des ressources, notamment l'affinité réseau et le planificateur de charge GPU pour maximiser l'utilisation, et prend en charge l'allocation des ressources GPU à la demande et le partitionnement GPU précis pour augmenter l'utilisation des ressources à plus de 70 %. De plus, MotusAI dispose de capacités de planification de charge de travail efficaces qui peuvent lancer rapidement des centaines de POD et configurer rapidement des environnements, améliorant ainsi le débit de 5 fois et réduisant la latence de 1/5 par rapport au planificateur communautaire.
MotusAI dispose de fonctionnalités de haute disponibilité (HA) et de reprise après sinistre pour un fonctionnement stable du modèle. Il applique l'architecture et les composants HA ensemble et adopte une structure active-active à 3 nœuds pour garantir des services à haute disponibilité, et les microservices sont appelés selon une stratégie d'équilibrage de charge pour augmenter la stabilité de la plate-forme. MotusAI peut transférer automatiquement des services en cas de panne de service grâce à ses capacités de reprise après sinistre, et les applications sont restaurées en quelques secondes. De plus, la surveillance, l’exploitation et la maintenance peuvent être facilement effectuées via une interface utilisateur graphique (GUI) intégrée, réduisant ainsi la charge de gestion et les coûts d’exploitation.
De plus, MotusAI est conçu pour simplifier le flux de travail des processus de formation et d’inférence des modèles.
- MotusAI est compatible avec les principaux frameworks d'apprentissage en profondeur tels que PyTorch et TensorFlow, ainsi qu'avec les frameworks d'apprentissage distribué tels que Megatron et DeepSpeed, et comprend divers outils de développement tels que Jupyter Notebook, Webshell et IDE. De plus, il permet un développement rapide du modèle grâce à l'accélération du transfert de données et améliore l'efficacité de l'apprentissage des données de 2 à 3 fois en raccourcissant le temps de retard des données et les cycles de mise en cache grâce à diverses stratégies telles que le chargement local de données distantes et le transfert de données sans copie.
- MotusAI fournit également diverses fonctions pour améliorer l’efficacité de l’inférence du modèle. Les capacités de déploiement low-code vous permettent de déployer des modèles sur des services en un seul clic et de mettre automatiquement à l'échelle les ressources lorsque le trafic augmente soudainement, en maintenant la latence moyenne en quelques millisecondes, même dans des environnements d'inférence hautement parallèles où des dizaines de milliers de requêtes se produisent simultanément, tout en améliorant l'efficacité de la réponse de plus de 50 %.
◆ Solution DevOps AI K2US, infrastructure clé en main prenant en charge l'ensemble du cycle de l'IA
MotusAI est une solution axée sur la gestion stable et efficace des clusters d'IA et sur un flux de travail d'IA rationalisé. En combinant MotusAI avec une plate-forme matérielle en cluster, KAYTUS fournit la « KAYTUS AI DevOps Solution », une solution d'infrastructure d'IA de bout en bout qui couvre l'ensemble du cycle de l'IA, du développement au déploiement et à l'exploitation. La solution consiste en une plate-forme unique qui intègre des capacités de calcul, de stockage, d'orchestration et d'automatisation pour éliminer les goulots d'étranglement de l'infrastructure et maximiser l'efficacité des flux de travail de l'IA. Il se caractérise par son objectif d’être un écosystème d’IA à grande échelle qui soutient l’innovation des entreprises, plutôt qu’un simple outil d’IA.
AI DevOps repose sur un matériel orienté application avec des performances élevées, une densité élevée et un débit élevé, et est conçu pour répondre à un large éventail de besoins de développement d'IA des clients. Basé sur une conception optimisée pour l'apprentissage et l'inférence de l'IA, il fournit une variété de gammes de produits qui maximisent les performances de calcul et l'efficacité des entrées/sorties, et est fourni sous la forme d'un produit clé en main dans des unités de cluster qui intègrent de manière organique le calcul, le stockage et la mise en réseau pour mettre en œuvre des performances intégrées.
De plus, KTUS analyse les demandes informatiques attendues des utilisateurs et fournit des services de conception de cluster et d'optimisation des performances. La construction de clusters à guichet unique englobant l'environnement matériel et système permet une configuration de l'environnement en un clic à l'aide d'images et de scripts préconfigurés, permettant une mise en œuvre rapide d'une infrastructure optimisée sans configuration système complexe. MotusAI, qui est monté au-dessus du cluster, augmente considérablement l'utilisation et l'efficacité opérationnelle du cluster grâce à diverses fonctions telles que le partitionnement et la distribution des ressources GPU multi-instances, le calcul parallèle, la connaissance de la topologie, l'accélération des données et le déploiement low-code.
Pendant ce temps, K2US participera à l'« AI EXPO KOREA 2025 International Artificial Intelligence Expo » sur le stand L01 du hall d'exposition COEX à Séoul pour accueillir les visiteurs. Sur le site, vous pourrez découvrir directement la stratégie d'infrastructure d'IA de nouvelle génération de K2US, y compris la démonstration MotusAI.
- Voir plus d'articles connexes
You must be logged in to post a comment.