엘리스그룹, 모듈형 데이터센터로 AI 생태계 혁신

-이동형 모듈러 데이터센터(AI PMDC)로 기존 데이터센터 한계 극복 -10년간 쌓은 기술력으로 시간 단축 및 비용 절감...국내 최초 CSAP IaaS 인증 -엘리스그룹, AI 교육 플랫폼에서 시작해 AI 클라우드까지 AI 생태계 혁신 창립 10주년을 맞은 엘리스그룹(이하 엘리스)이 AI 교육 실습 플랫폼에서 쌓은 기술력을 바탕으로 AI 클라우드 분야에서 두각을 나타내고 있다. 특히 국내 최초로 엔비디아 B200을 탑재한 이동형 모듈러 데이터센터(PMDC, Portable Modular Data Center)를 구축하는 등 혁신적인 성과를 거두고 있다. 최신 GPU 성능을 제공하는 '엘리스클라우드'는 3개월 만에 구축이 가능하며, 특히 글로벌 클라우드 대비 77% 이상 비용을 절감할 수 있다. 이러한 장점으로 엘리스클라우드는 6개월 만에 이용 기관 수가 9배 증가하는 성장을 기록했다. 엘리스는 올해 3월 국내 최초로 AI PMDC의 CSAP IaaS 인증을 획득했다. 이로 인해 물리적 보안이 중요한 공공 부문 진출을 확대할 수 있게 되었다. 중학교 정보 교과 AI 디지털교과서 AI 챗봇 '헬피'도 엘리스의 이러한 보안 구조 위에서 운영되고 있다. 김재원 대표는 "AI가 사회적 필수재가 된 시대에 기술 안보를 위한 클라우드 국산화와 AI 교육 확산이 중요하다"고 강조했다. 서울 강남구 엘리스 사무실에서 김재원 대표를 만나 AI 생태계 구축에 필요한 AI 데이터센터와 AI 교육에 대해 이야기를 나눴다. AI 시대, 기존 데이터센터로는 한계 AI와 데이터센터는 자동차와 도로 같은 관계다. AI가 발전함에 따라 더욱 강력하고 특화된 인프라가 필요하지만, 기존 데이터센터로는 AI 환경의 요구사항을 충족하기 어려워 AI 생태계 발전의 걸림돌이 되고 있다. 우선 전력 문제부터 해결해야 한다. 기존 데이터센터는 CPU 기반 서버들은 비교적 전력 소비가 적고 발열도 관리 가능한 수준이었기 때문에, 공냉식 냉각 시스템과 표준적인 전력 공급 설비로도 충분했다. 하지만 AI 시대에 필수가 된 GPU는 기존 서버 대비 10배에서 100배까지 많은 전력을 소비한다. 따라서 전력 공급을 위한 변전 설비부터 배전반, 케이블링까지 모든 것을 새로 구축해야 한다. 냉각 비용만으로도 전체 운영비의 30-40%를 차지할 정도로 냉각 시스템 구축이 중요한 과제다. 특히 H100과 같은 고성능 GPU는 막대한 열을 발생시킨다. 기존 데이터센터의 공냉식 시스템으로는 이를 감당하기 어렵다. 수냉식으로 전환하려 해도 기존 건물 구조로는 하중을 견디지 못하는 경우가 많다. 배관 설치를 위한 대규모 구조 변경이 필요해 사실상 신축 수준의 공사가 불가피하다. AI 학습을 위해서는 수천 개의 GPU 간 실시간 데이터 교환이 필요하다. 이를 위해 엔비디아 인피니밴드와 같은 초고속 네트워크 기술이 필수적인데 이를 적용하기 위해서는 일반 데이터센터와는 완전히 다른 네트워크 구조로 설계해야 한다. 또한 AI 학습 데이터에 국가 기밀이나 개인정보가 포함되는 경우가 많아, 물리적 보안과 데이터 주권이 중요한 고려 사항으로 대두되고 있다. 이 모든 문제들이 복합적으로 작용하면서 한국의 AI 인프라 구축이 크게 지연되고 글로벌 AI 경쟁에서 뒤처질 수밖에 없었다. 엘리스의 모듈형 데이터센터는 바로 이런 문제들을 해결하기 위한 혁신적 대안으로 손꼽히고 있다. 이동형 모듈러 데이터센터...구축 시간 단축과 구축 및 운영 비용 절감 엘리스의 핵심 기술은 AI PMDC다. 이동형 모듈러 데이터센터로 불리는 이 기술은 기존 데이터센터의 한계를 극복한 혁신적 솔루션으로 평가받고 있다. "기존 방식으로는 AI 특화 데이터센터를 구축하는 데 3-5년이 걸립니다. 하지만 엘리스의 모듈형 방식은 3개월 만에 구축할 수 있습니다. 컨테이너 내부에 설비를 탑재하고 여러 모듈을 유연하게 조합하는 방식이기 때문에 가능합니다." 기존 방식으로 AI 특화 데이터센터를 구축하려면 부지 선정부터 설계, 건설, 장비 설치까지 오랜 시간이 필요하다. 여기에 복잡한 인허가 절차를 거쳐야 한다. 시간이 곧 경쟁력인 상황에서 데이터센터 구축에 많은 시간을 투자할 수 없다. 엘리스의 모듈형 방식은 미리 제작된 컨테이너에 필요한 설비를 탑재한 후 컨테이너를 원하는 위치에 이동해 설치하고 전력과 네트워크만 연결하면 즉시 운영이 가능하다. 구축해서 운영하기까지 3개월이면 충분하다. 초기 투자 부담을 크게 줄여준다. 기존 데이터센터 건설에는 토지 구입, 건물 신축, 냉각 시설 구축 등에 막대한 초기 투자가 필요하지만, 표준화된 컨테이너를 활용하면 필요에 따라 점진적 확장이 가능하다. 운영 중에도 수요 변화에 맞춰 모듈을 추가하거나 재배치할 수 있어 운영비를 최적화할 수 있다. 글로벌 클라우드와 동일한 조건에서 77% 이상 비용을 절감할 수 있다. 이런 파격적인 가격 경쟁력의 비결은 무엇일까? "엘리스가 A to Z까지 모든 것을 자체 개발했기 때문입니다. 클라우드 소프트웨어, 동적할당 기술(사용자가 필요한 만큼의 컴퓨팅 자원을 실시간으로 할당받고, 사용이 끝나면 즉시 반환하는 기술), 클러스터링 기술까지 4년간 독자적으로 개발해 비용 최적화를 달성했어요." 특히 클러스터링 기술이 핵심이다. 거대언어모델(LLM) 개발에는 GPU 한두 장이 아닌 수천 장을 하나처럼 연결해야 한다. 엘리스는 엔비디아의 인피니밴드 기술을 활용해 국내 최대 규모의 클러스터링 환경을 구축했다. 인피니밴드를 통해 10개, 100개, 1000개 단위로 GPU를 묶어 제공함으로써 다양한 거대 AI 프로젝트 수요까지 충족할 수 있다. "기존 데이터센터는 일반 컴퓨터 서버 규격에 맞춰져 있어요. 하지만 AI 데이터센터는 서버 한 대당 기존 대비 10배에서 100배까지 전력이 필요합니다. 이런 고전력을 효율적으로 냉각하려면 수냉식 시스템이 필요한데, 국내 기존 데이터센터는 이런 하중을 견딜 수 없어요." 엘리스의 PMDC는 이런 고전력, 고발열 환경에 최적화된 수냉식 냉각 시스템을 탑재했다. 기존 데이터센터의 공냉식으로는 감당할 수 없는 열을 효율적으로 처리하면서도 전력 소비를 최소화한다. 특히 PUE(전력효율지수) 1.27을 달성해 국내 데이터센터 평균 2.3 대비 약 절반 수준의 효율성을 보여준다. 모듈형의 또 다른 장점은 보안이다. 컨테이너 자체가 견고한 철제 구조물이어서 물리적 침입이 매우 어렵다. 각 컨테이너는 독립적인 물리적 공간으로, 고객별로 완전히 별도의 컨테이너를 제공하기 때문에 내부에 서버와 데이터가 완전히 격리되어 있다. 마치 금고를 여러 개 분리해 놓은 것과 같은 개념이다. 물리적 격리 공간 덕분에 민감한 데이터나 1급 비밀을 다루는 공공기관, 금융회사 등에서 요구하는 높은 보안 수준을 자연스럽게 충족한다. 이는 클라우드 보안에 대한 우려가 높은 국내 환경에서 특히 강력한 경쟁력이다. 김 대표는 "원래 모듈형 데이터센터를 구축하려는 첫 번째 이유는 보안 때문이었다"고 강조했다. 국내 최초 CSAP IaaS 인증으로 공공시장 진출의 교두보 마련 엘리스가 국내 AI PMDC 최초로 CSAP(Cloud Service Assurance Program, 클라우드서비스 보안인증) IaaS 인증을 받을 수 있었던 것도 이런 물리적 보안 구조 덕분이다. CSAP 인증은 14개 분야 116개 통제항목을 평가받아야 하는데, 물리적 보안이 핵심 평가 요소 중 하나다. CSAP IaaS 인증은 AI 특화 인프라에 대한 보안성과 신뢰성을 공식적으로 인정받았다는 의미다. 엘리스는 CSAP IaaS 획득을 계기로 공공 클라우드 영역에서 본격적으로 입지를 확대해 나갈 것으로 보인다. "CSAP IaaS 인증은 총 14개 분야 116개 통제항목을 평가받아야 합니다. GPU 전용으로 이 인증을 받은 건 엘리스뿐이에요. 인증 덕분에 AI 디지털교과서를 비롯한 다양한 국가 사업에 참여할 수 있게 됐습니다." 현재 중학교 정보 교과의 AI 디지털교과서에서 엘리스의 AI '헬피' 챗봇도 이런 보안 구조 위에서 운영되고 있다. 학생들의 학습 데이터와 개인정보가 물리적으로 격리된 환경에서 안전하게 처리되고 있다. 폭발적 성장세, 6개월 만에 9배 증가 엘리스클라우드의 성장세가 가파르다. 지난해 11월부터 올해 5월까지 6개월 만에 이용 기관 수가 9배 이상 증가했다. 이용자 수는 서비스 초기인 2023년 6월 대비 21개월 만에 약 74배 늘었다. "올해 이용기관 월평균 성장률이 50%를 넘고 있어요. 국내외 대학들의 AI 연구에 필수적인 GPU를 가장 저렴하고 빠르게 제공하다 보니 수요가 폭발적으로 늘고 있습니다." 실제로 서울대, 카이스트, 고려대 등 국내 주요 대학뿐만 아니라 미국 미네소타 대학교까지 엘리스클라우드를 활용해 AI 연구를 진행하고 있다. 미네소타 대학교 박사과정 연구원은 엘리스클라우드를 이용해 세계 최고 권위의 AI 학회인 NeurIPS에 논문을 제출하기도 했다. 교육과 클라우드 간의 시너지 엘리스의 장점은 AI 교육과 AI 클라우드 간의 시너지다. '엘리스LXP'(Learning Experience Platform)는 학습자 중심의 개인화된 교육 경험을 제공하는 차세대 교육 플랫폼으로 엘리스LXP에서 제공하는 모든 AI 실습 환경은 엘리스클라우드를 기반으로 구축된다. 이를 통해 학습자들은 최신 GPU 환경에서 실습할 수 있으며, 교육기관은 별도의 하드웨어 투자 없이도 고품질 AI 교육을 제공할 수 있다. 공교육 혁신의 선두주자 '엘리스스쿨’ 엘리스스쿨은 현재 중학교 정보 교과 AI 디지털교과서를 공급하고 있다. 학생들이 질문하면 자체 개발한 AI 헬피(Helpy) 챗봇이 답변하는데, 이 챗봇은 욕설 필터, 할루시네이션 억제, 교육편찬위 가이드라인 준수 등 교육 환경에 특화된 기능들을 탑재했다. "독도가 분쟁지역인가?"와 같은 질문에 외국 AI는 우리가 원하지 않는 답변을 할 수 있지만, 엘리스의 AI는 한국의 역사관과 가치관에 맞는 답변을 제공한다. 이는 교육 분야에서 AI 주권이 왜 중요한지를 보여주는 실증적 사례다. 취업 시장 변화에 대응하는 '엘리스트랙’ 엘리스트랙은 AI 시대에 새로 생겨나는 직업들을 중심으로 커리큘럼을 구성한다. 자율주행 엔지니어, 로보틱스 전문가, AI 사업개발자, 데이터센터 운영 전문가 등 AI와 결합된 신산업 분야의 교육 과정을 제공한다. 엘리스클라우드를 활용해 최신 GPU 환경에서 AI 모델을 직접 학습시켜보고, 실제 산업 현장에서 마주칠 수 있는 문제들을 해결하는 경험을 제공한다. 기업 재직자를 위한 '엘리스엔터프라이즈’ 엘리스엔터프라이즈는 SK, LG, 현대자동차 등 대기업부터 중소기업까지 7,100여 곳에서 활용하고 있으며, 각 기업의 업무 특성에 맞춘 맞춤형 교육을 제공한다. 예를 들어 제조업체에는 AI를 활용한 품질 관리나 예측 정비 교육을, 금융회사에는 AI 기반 리스크 관리나 고객 분석 교육을 제공하는 식이다. "대규모 투자와 인력 양성을 위한 환경 구축 필요" 김 대표는 "클라우드는 단순한 인프라가 아닌 소프트웨어 산업으로 접근해야 한다"고 강조하며, "고부가가치 클라우드 산업을 육성하려면 소프트웨어 산업 발전이 필수적"이라고 말했다. 그러면서 클라우드에 과감한 투자가 필요하다고 덧붙였다. "클라우드는 자본집약적 산업입니다. 미국과 중국은 정부와 투자자들이 혁신적인 AI 클라우드 스타트업에 과감하게 투자했습니다. 하지만 국내에서는 이와 같은 혁신적인 사업에 대한 도입이 쉽지 않습니다.“ 김 대표는 한국 AI 생태계 발전을 위해서는 정부의 역할이 중요하다고 강조했다. 특히 혁신 기업에 대한 지원 확대가 필요하다고 봤다. "혁신 기업들이 참여해야 진정한 기술 혁신과 비용 혁신이 가능합니다.“ 또한 AI 산업 발전의 핵심을 인재로 지목했다. ”AI 산업은 다양한 분야의 복합적 지원이 필요한데, 그 중 하나가 인재입니다. AI 노동환경은 제조업과 다른데, 이에 맞는 법과 제도가 필요합니다. 국내 인재들이 미국으로 가지 않도록 하는 혁신적인 환경 조성이 시급합니다." 엘리스, AI 강국을 꿈꾸다 엘리스는 CSAP IaaS 인증을 바탕으로 교육, 의료, 제조 등 다양한 국가 산업 영역에서 AI 전환(AX)을 실현할 수 있도록 데이터센터 사업을 점차 확대해 나갈 계획이다. 궁극적으로는 국산 NPU 지원 확대와 국산 AI 반도체 기업들과의 협력을 통해 완전한 국산 AI 인프라 생태계 구축을 목표로 하고 있다. AI 교육 분야에서도 현재 10만 명에서 500만 명까지 확대하는 것이 목표다. 중학교 정보 교과에서 시작해 초등학교, 고등학교까지 확장하고, 나아가 대학교와 평생교육 영역까지 아우르는 전 국민 AI 교육 플랫폼을 구축하겠다는 비전이다. 엘리스는 이를 위해 투자 유치도 검토하고 있다. "AI 시대에 맞춰 우리나라가 번영했으면 좋겠어요. 그게 엘리스의 미션이고 비전입니다." 김 대표는 우리나라가 AI 강국이 되는 것을 꿈꾸고 있다. 우리나라가 AI 강국으로 인정받을 때 엘리스가 그 중심에 있기를 바란다.