[IT 동아] AI 교육·클라우드 양 날개로 나는 엘리스그룹, 2025년은 PMDC 집중의 해

[IT동아 남시현 기자] AI 교육 설루션 및 클라우드 기업 엘리스그룹이 3월 28일, 서울 강남구 신사동에서 엘리스 임팩트: 임파워링 AI(Elice IMPACT: empowering AI) 기자간담회를 열고 2025년 엘리스그룹의 AI 전략 및 생태계를 소개했다. 엘리스그룹은 2015년 설립된 AI 교육 설루션 기업으로, AI 기술을 적용한 국내 최초 교육 실습 플랫폼 ‘엘리스 LXP’와 PMDC(이동형 모듈러 데이터 센터) 기반의 클라우드 사업을 함께 전개하고 있다.

김재원 엘리스그룹 대표는 “글로벌 기업의 90%는 생성형 AI를 활용하고 있지만, 3년 내에 성숙하게 AI를 도입할 수 있는 기업인은 1%에 불과하다. AI가 산업과 업무 현장에서 실제로 쓰이고 있음에도, 경영진 입장에서 이를 체계적으로 도입하기는 쉽지 않다”라고 말했다.

컨설팅 기업 매킨지가 조사한 생성형 AI 사내 도입 관련된 설문조사를 살펴보면, 직원들은 경영진들의 예상보다 3배 더 많이 생성형 AI를 쓰고 있다. 하지만 직원 중 48%는 생성형 AI 도입의 핵심으로 체계적인 훈련과 시스템과 통합된 절차 등이 필요하다고 응답했지만, 역시 48%가 지원에 미진하다고 답했다. 즉 생성형 AI에 대한 각자도생이 아닌 공식적인 훈련이 필요하며, 도구에 대한 접근성도 향상되어야 생성형 AI가 자리 잡을 수 있다.

엘리스그룹의 교육 설루션 엘리스 LXP는 이에 대한 대안이다. 설명만으로는 어려운 AI 교육을 실제 진행 상황을 대시보드로 보면서 AI 서포트한다. 다만 대다수 AI 개발 및 실습에서 걸림돌이 되는 부분이 바로 그래픽 카드 확보인데, 엘리스는 자체 클라우드를 기반으로 개발에 필요한 자산을 충당한다. 김재원 대표는 “최근에는 자체 콘텐츠 제작 및 배포를 통해 교육 과정을 더욱 체계화했고, AI 시장의 변화에 맞춰 교육 과정을 제공하는 속도도 가속 중”이라고 설명했다.

엘리스클라우드는 AI 교육에 필요한 자산을 충당하는 과정에서 시작됐다. 실제로 30만 원대 AI 교육을 듣더라도 실습에 300만 원대 시스템이 필요한 게 AI 교육이다. 김재원 대표는 “세간에서 스타트업이 어떻게 클라우드 사업을 전개하는가에 의문을 가진다. AWS나 LG CNS 등의 클라우드만 해도 100개~200개 수준의 서비스를 제공하는데, 우리는 AI 구축에 필요한 데이터와 , 컴퓨터 자원, 데이터 스토리지 세 가지만 집중해 시장에 대응한다”라고 설명했다.

AI 교육에 필요한 안전한 대형언어모델(LLM)도 직접 구축 중이다. 엘리스그룹은 독자적인 AI 모델 헬피(Helpy)를 개발 중이며, 교육용인 헬피 에듀, 전문가용인 헬피 프로, 고성능 모델인 헬피 리즈닝 세 가지를 제공한다. 헬피 리즈닝은 엘리스클라우드 머신러닝 API 라이브러리에서 활용할 수 있으며, 한국어와 베트남어 벤치마킹 1위를 달성한 바 있다. AI 모델들이 늘어나지만 특정 목적에 맞춰 제공하는 식으로 성능과 상업성을 확보하는 전략이다.

지난해 공개했던 이동형 모듈러 데이터 센터는 엘리스클라우드에서 독립된 사업으로 진행한다. 김재원 대표는 “보안이 중요한 사회, 국방, 공공 부문일수록 생성형 AI 도입이 더지만, 역으로 가장 혁이 필요한 분야라고 생각한다. 그래서 엘리스그룹은 지난해 데이터센터를 이동형으로 구축한 PMDC를 선보였고, 올해 3월 CSAP IaaS 인증까지 취득해 보안 우려를 해소했다”라고 설명했다.

CSAP는 클라우드서비스 보안인증으로 클라우드 제공 사업자가 정부가 요구하는 보안 수준을 만족하는지를 확인하는 인증이다. IaaS 인증의 경우 ▲정보보호 정책 및 조직 ▲ 인적 보안 ▲ 자산 관리 ▲ 서비스 공급망 관리 ▲ 침해사고 관리 ▲ 서비스 연속성 관리 ▲ 준거성 ▲ 물리 보안 ▲ 가상화 보안 ▲ 접근 통제 ▲ 네트워크 보안 ▲ 데이터 보호 및 암호화 ▲ 시스템 개발 및 도입 보안 ▲ 공공기관 보안 요구사항까지 14개 영역 116개 항목을 만족해야 한다.

김재원 대표는 “지난 4년 간 매일 하나씩 컨테이너를 업데이트하며 고도화했고, 3년 간 실질적으로 운용하며 GPU 제공이나 데이터 유실 등의 문제가 한 건도 없었다. 엘리스그룹은 인프라 하드웨어, 소프트웨어, 서비스 세 가지 밸류체인을 모두 독자적으로 개발해 비용 효율화도 달성했다”라고 말했다. 이를 통해 지난해까지 엘리스클라우드 내 사업이던 PMDC를 올해부터는 독립적인 사업으로 개별 제공된다.

제공하는 서비스는 공랭식 기반의 240KW급 PMDC와 수랭식 기반의 600KW급 PMDC로 나뉜다. 이중 240Kw는 40Kw 랙 6개로 구성되며 800대의 퓨리오사AI 또는 리벨리온 신경망 처리 장치 NPU를 탑재한다. 이때 구축 비용은 약 96억 원부터다. 또 다른 선택지는 192대의 엔비디아 H200 GPU를 탑재하는 서버로 약 155억 원부터다. 600Kw급 수랭식 서버는 75Kw 랙 8개가 탑재되며, 총 256개의 B200 칩이 탑재되며 비용은 280억 원 이상이다.

NPU 서버와 관련해 김재원 대표는 “퓨리오사AI 워보이, 레니게이드는 이미 엘리스클라우드로 서비스되어 빠르게 도입할 수 있고, 리벨리온 칩은 지난달 말까지 PoC를 진행했다. 올해 상반기 중에는 PMDC 형태로 제공할 것”이라 말했다. 따라서 리벨리온의 새로운 서버용 칩도 올해 상반기 안에는 상업 운영이 가능할 것으로 보인다.

아울러 PMDC 설치 기간은 배포 및 확장에 최소 12주 내외가 소요되는데, 칩 수급과 관련해 엘리스그룹 관계자는 “PMDC 서버 발주 시점에 필수 반도체를 주문하는데, 델 테크놀로지스 등 서버 협력사와의 긴밀한 관계를 통해 3개월에서 4개월 내에 제품 공급 및 설치가 완료되도록 할 예정”이라 답했다.

엘리스그룹 매출 비중은 교육이 75%, 클라우드 사업이 25%로 여전히 주력 사업 비중이 높다. 하지만 김재원 대표는 클라우드 사업의 성장 가능성을 더 높게 평가하는데, 시장에서 여러 개의 클라우드를 동시에 사용하는 멀티 클라우드가 대세인 만큼, 타사 클라우드도 쓰고 엘리스클라우드도 도입할 가능성이 있어서다. 또한 보안에 대한 우려로 자체 데이터센터 등을 구축하는 수요도 늘고 있고, PMDC의 시장성도 차츰 확보될 전망이다.

앞으로 가장 큰 과제는 사업성 확보, 그리고 잠재적인 경쟁 사업자의 등장이다. 2025년 현재 국내 PMDC 사업자는 엘리스그룹뿐이다. 하지만 세계 PMDC 시장의 강자인 화웨이와 슈나이더 일렉트릭, 버티브 등의 기업들이 모두 한국에서 사업을 하고 있다. 아직은 조용히 있지만, 언제 국내에 서비스를 도입하겠다 할지 모른다. 그전까지 엘리스그룹은 도입 사례와 협력사를 늘리고, 사업성을 확보해 다른 대기업들과 맞서 싸울 수 있는 여력을 길러야 한다.

김재원 대표는 “이미 인도네시아, 말레이시아 등으로 큰 데이터센터 계약을 체결했고 3년 이상 소요될 예정이다. PMDC 역시 여기에 제공하는 논의를 하고 있다. 일률적인 데이터센터에 새로운 대안을 제시함으로써 내년에는 큰 매출을 달성해 보겠다”는 포부를 밝혔다.

IT동아 남시현 기자 (sh@itdonga.com)