엘리스그룹

이를 통해 당사는 AI 클라우드 인프라를 빠르게 확장하거나, 고객 전용 AI 데이터센터 구축 수요에 대응할 수 있습니다. 대규모 AI 모델 학습과 추론에 널리 활용되는 연산 장치로, 생성형 AI와 딥러닝 모델처럼 대량의 데이터를 병렬로 처리해야 하는 업무에 사용됩니다. B200 B200은 NVIDIA의 Blackwell 아키텍처 기반 차세대 고성능 GPU입니다.

H100 이후 세대의 AI 연산용 GPU로, 대규모 AI 모델 학습과 추론에 필요한 높은 연산 성능과 전력 효율을 제공하도록 설계되었습니다. 당사는 특히 B200 GPU 256개를 탑재하는 600kW급 AI PMDC 라인업을 통해 초거대 AI 모델 학습 수요에 대응 가능한 고집적 AI 인프라 구축 역량을 강화하고 있습니다. CSP (Cloud Service Provider) CSP는 클라우드 서비스 제공자를 의미합니다.

자체 데이터센터와 서버 인프라를 기반으로 서버, 스토리지, 네트워크, 소프트웨어 등 클라우드 자원을 고객에게 제공하는 사업자를 말합니다. 대표적으로 AWS, Microsoft Azure, Google Cloud, 네이버클라우드 등이 있습니다. MSP (Managed Service Provider) MSP는 클라우드 도입과 운영을 지원하는 관리 서비스 제공자를 의미합니다.

고객이 클라우드를 안정적으로 사용할 수 있도록 컨설팅, 구축, 운영, 유지보수 등을 지원하며, 주로 CSP의 클라우드 서비스를 고객 환경에 맞게 적용하고 관리하는 역할을 수행합니다. GPU (Graphics Processing Unit) GPU는 대량의 데이터를 동시에 처리하는 병렬 연산에 특화된 프로세서입니다. 원래 그래픽 처리를 위해 개발되었으나, AI 모델 학습과 추론에 필요한 대규모 연산을 효율적으로 처리할 수 있어 현재 AI 클라우드 인프라의 핵심 연산 자원으로 활용되고 있습니다.

NPU (Neural Processing Unit) NPU는 인공지능 신경망 연산에 특화된 전용 프로세서로, 딥러닝 추론 및 경량화된 AI 모델 실행에 최적화되어 있습니다. 전력 효율성이 높고 지연시간이 짧아 모바일 기기나 엣지 디바이스 환경에서 주로 활용됩니다. GPU가 대규모 학습에 강점이 있다면, NPU는 실시간 AI 처리 및 추론 단계에서 효율성이 높다는 특징이 있습니다.

CPU (Central Processing Unit) CPU는 컴퓨터의 중앙 처리 장치로, 운영체제 구동과 일반 프로그램 실행 등 범용 연산을 담당합니다. 서버 환경에서는 시스템 전반의 기본 연산과 제어를 담당하며, GPU·NPU와 함께 AI 인프라를 구성하는 주요 컴퓨팅 자원입니다. AX (AI Transformation) AX는 AI Transformation의 약자로, AI 기술을 기업의 업무, 서비스, 제품, 비즈니스 모델 전반에 적용해 운영 방식과 경쟁력을 혁신하는 것을 의미합니다.

당사의 AI 교육, 클라우드, 인프라 사업은 고객의 AX 실행을 지원하는 방향으로 연결됩니다. DX (Digital Transformation) DX는 Digital Transformation의 약자로, 아날로그 기반 업무나 산업 구조를 디지털 기술 중심으로 전환하는 것을 의미합니다. AX가 AI 활용에 초점을 둔 전환이라면, DX는 보다 넓은 의미의 디지털 전환을 의미합니다.

하이퍼스케일러 하이퍼스케일러는 대규모 데이터센터와 서버 인프라를 기반으로 전 세계 고객에게 클라우드 서비스를 제공하는 초대형 클라우드 사업자를 의미합니다. 대표적으로 AWS, Microsoft Azure, Google Cloud 등이 있으며, 국내에서는 네이버클라우드, 카카오엔터프라이즈 등이 하이퍼스케일러로 분류됩니다. ML API (Machine Learning Application Programming Interface) ML API는 머신러닝 모델을 외부 애플리케이션이나 서비스에서 호출할 수 있도록 제공하는 API입니다.

학습된 AI 모델을 실제 서비스 환경에 연결하고, 사용자의 요청에 대해 AI 추론 결과를 제공하는 기술적 인터페이스 역할을 합니다. Foundation Model Foundation Model은 대규모 데이터를 사전에 학습해 다양한 분야에 활용할 수 있도록 만든 범용 AI 모델을 의미합니다. ChatGPT, Gemini, Claude와 같은 생성형 AI 모델이 대표적인 예입니다.

기업은 이러한 모델을 기반으로 자사 업무에 맞는 AI 서비스를 개발하거나 고도화할 수 있습니다. Private Cloud Private Cloud는 불특정 다수가 공유하는 퍼블릭 클라우드와 달리, 특정 기업이나 기관이 전용으로 사용하는 클라우드 환경입니다. 접근 권한, 데이터, 보안 정책, 인프라 운영 방식에 대한 통제권을 강화할 수 있어 공공기관, 대기업, 금융사 등 보안과 규제 준수가 중요한 조직에서 선호됩니다.

Sovereign Cloud Sovereign Cloud는 데이터가 특정 국가 또는 지정된 관할권 내에서 저장·처리되도록 설계된 클라우드 환경입니다. 데이터 주권, 개인정보 보호, 공공·금융 규제 준수가 중요한 고객에게 필요한 클라우드 형태입니다. Colocation Colocation은 기업이 직접 데이터센터를 건설하지 않고, 전력·냉각·보안 설비가 갖춰진 데이터센터의 공간을 임대해 자체 서버를 설치·운영하는 방식입니다.

기업은 서버 장비를 직접 소유하면서도 데이터센터 운영에 필요한 물리적 설비를 외부 전문 사업자의 시설을 통해 활용할 수 있습니다. 수랭형 데이터센터 수랭형 데이터센터는 물 또는 냉각수를 활용해 서버에서 발생하는 열을 제거하는 데이터센터입니다. GPU 서버와 같이 전력 사용량과 발열이 큰 장비를 고밀도로 운영할 때 냉각 효율을 높일 수 있어, AI 데이터센터에서 중요성이 커지고 있습니다.

당사의 AI PMDC는 수랭식 냉각 구조를 적용해 고집적 GPU 서버 운영에 적합하도록 설계되었습니다. 공랭형 데이터센터 공랭형 데이터센터는 차가운 공기를 순환시켜 서버의 열을 제거하는 전통적인 냉각 방식의 데이터센터입니다. 구조가 비교적 단순하고 구축 비용이 낮은 편이지만, 고밀도 GPU 서버 환경에서는 냉각 효율에 한계가 있을 수 있습니다.

PUE (Power Usage Effectiveness) PUE는 데이터센터의 전력 효율을 나타내는 지표입니다. 데이터센터 전체 전력 사용량을 실제 서버 등 IT 장비가 사용하는 전력량으로 나누어 계산하며, 수치가 1에 가까울수록 전력 효율이 높은 것으로 평가됩니다. AI 데이터센터는 GPU 서버의 전력 사용량이 크기 때문에, PUE 개선은 전력비 절감과 인프라 경쟁력 확보에 중요한 요소입니다.

가상화 (Virtualization) 가상화는 물리적인 서버, GPU, 스토리지, 네트워크 등 컴퓨팅 자원을 소프트웨어적으로 분리·할당·관리해 여러 사용자가 효율적으로 활용할 수 있도록 하는 기술입니다. IaaS 서비스를 제공하기 위해 필요한 핵심 기반 기술 중 하나이며, 물리 장비의 활용도를 높이고 고객별 독립적인 실행 환경을 구성하는 데 사용됩니다. On-Demand On-Demand는 고객이 필요한 시점에 필요한 만큼의 컴퓨팅 자원을 할당받아 사용하는 서비스 방식입니다.

고객은 고가의 GPU 인프라를 직접 구매하지 않고도 사용량에 따라 자원을 이용할 수 있어 초기 투자 부담을 줄이고, AI 개발·실험 수요에 유연하게 대응할 수 있습니다. CSAP (Cloud Security Assurance Program) CSAP는 정부가 해당 클라우드 서비스를 신뢰할 수 있다고 공식적으로 인정하는 '국가 공인 클라우드 보안 인증'입니다. 공공기관 사업을 수행하기 위해서는 필수적으로 요구되며, 민간 기업들 역시 본 인증을 통해 당사가 제공하는 서비스의 신뢰성을 더욱 높게 평가하고 있습니다.

On-Premises On-Premises는 기업이나 기관이 자체적으로 보유한 공간 또는 지정된 장소에 하드웨어와 소프트웨어를 설치해 운영하는 방식입니다. 데이터 외부 반출이 제한되거나 보안 통제가 중요한 금융, 의료, 국방, 공공 분야 등에서 활용됩니다. 당사는 AI PMDC를 통해 고객 사업장 또는 지정 부지에 온프레미스형 AI 인프라를 3개월 내외의 짧은 기간에 구축할 수 있는 방식을 제공함으로써, 고객의 전용 AI 인프라 수요에 대응하고 있습니다.

IaaS (Infrastructure as a Service) IaaS는 서버, 스토리지, 네트워크, GPU 등 인프라 자원을 서비스 형태로 제공하는 클라우드 모델입니다. 고객은 물리 인프라를 직접 구축하지 않고도 필요한 컴퓨팅 자원을 할당받아 사용할 수 있습니다. 당사의 ECI는 AI PMDC, 데이터센터, 고객사 온프레미스 환경 등 다양한 물리 인프라 위에서 GPU·NPU 등 고성능 컴퓨팅 자원을 할당·관리하는 IaaS 소프트웨어에 해당합니다.

SaaS (Software as a Service) SaaS는 사용자가 별도 소프트웨어 설치 없이 웹 기반으로 애플리케이션을 이용할 수 있는 서비스 모델입니다. 사용자는 인터넷을 통해 서비스를 이용하고, 사업자는 소프트웨어의 운영·관리·업데이트를 담당합니다. 당사의 LXP는 SaaS 형태로 제공되는 교육 플랫폼입니다.

PaaS (Platform as a Service) PaaS는 개발자가 서버, 네트워크, 운영체제 등 복잡한 인프라를 직접 관리하지 않고도 애플리케이션을 개발·실행할 수 있도록 개발 환경을 서비스 형태로 제공하는 클라우드 모델입니다. AI 서비스 개발 환경, 모델 배포 환경, 개발자 실습 환경 등이 PaaS 형태로 제공될 수 있습니다. TCO (Total Cost of Ownership) TCO는 총소유비용을 의미합니다.

장비나 시스템을 도입할 때 발생하는 초기 구매 비용뿐 아니라 운영, 유지보수, 전력, 인력, 폐기 등 전체 사용 기간 동안 발생하는 직접·간접 비용을 모두 포함한 경제적 지표입니다. AI 인프라에서는 GPU 구매 비용뿐 아니라 전력비, 냉각비, 운영 인력, 유지보수 비용까지 함께 고려해야 합니다. ECI (EliceCloud Infrastructure) ECI는 당사가 자체 개발한 IaaS 구현 소프트웨어로, GPU·NPU 등 고성능 컴퓨팅 자원을 고객별로 할당하고 관리하는 클라우드 인프라 플랫폼입니다.

ECI는 가상화 및 자원 관리 기술을 기반으로 AI PMDC뿐만 아니라 고객사 데이터센터, 사내 전산실, 연구기관·공공기관의 전용 인프라 등 다양한 온프레미스 환경에서도 적용 가능하도록 설계되었습니다. 이를 통해 당사는 물리적 인프라 형태와 관계없이 고객에게 필요한 컴퓨팅 환경을 유연하게 제공할 수 있으며, OpenStack, VMware와 같은 가상화 소프트웨어와 유사한 역할을 수행합니다. VMware VMware는 서버 가상화 및 클라우드 인프라 운영에 활용되는 소프트웨어 제품군을 제공하는 기업이자 관련 기술을 통칭하는 용어로 사용됩니다.

물리 서버 위에 여러 개의 가상 머신을 구성해 컴퓨팅 자원을 효율적으로 분리·운영할 수 있도록 지원합니다. RAG (Retrieval-Augmented Generation) RAG(검색 증강 생성)는 AI가 답변을 생성하기 전, 신뢰할 수 있는 외부 지식 베이스에서 관련 정보를 먼저 검색(Retrieval)하여 그 내용을 바탕으로 답변을 보완하는 기술입니다. 이를 통해 AI가 가진 지식의 한계를 넘어 최신 정보나 전문적인 내부 데이터를 정확하게 반영할 수 있으며, 근거 없는 답변을 하는 환각(Hallucination) 현상을 획기적으로 줄여주는 핵심 솔루션입니다.

PBL (Project-based Learning) PBL(Project-based Learning, 프로젝트 기반 학습)은 학습자가 직면한 실제적인 문제를 해결하기 위해 프로젝트를 수행하는 과정에서 스스로 지식을 습득하고 협업 역량을 키우는 학습 모델입니다. Overhead 비즈니스나 회계적 관점에서 오버헤드(Overhead)는 제품 생산이나 서비스 제공에 직접 투입되지 않지만, 비즈니스 운영을 위해 필수적으로 발생하는 간접 비용(간접비)을 의미합니다. 네오클라우드 (Neocloud) 네오클라우드는 대규모 AI 모델 학습과 추론에 최적화된 AI 특화 클라우드 서비스입니다.

고성능 GPU 자원, 고속 네트워크, 대용량 스토리지, AI 개발·운영 환경을 결합해 생성형 AI 워크로드를 효율적으로 처리할 수 있도록 설계된 것이 특징입니다. 기존 범용 클라우드보다 AI 연산 수요에 특화된 인프라를 제공한다는 점에서 차별화됩니다. NVLink NVLink는 NVIDIA가 개발한 GPU 간 고속 연결 기술입니다.

일반적인 PCIe 연결보다 GPU 간 데이터 전송 대역폭이 높아, 여러 GPU가 하나의 시스템처럼 연산을 나누어 수행할 수 있도록 지원합니다. 대규모 AI 모델 학습에서 GPU 간 통신 병목을 줄이고 학습 효율을 높이는 데 활용됩니다. InfiniBand InfiniBand는 고성능 컴퓨팅과 대규모 AI 클러스터에 사용되는 저지연·고대역폭 네트워크 기술입니다.

RDMA를 통해 서버 간 데이터 전송 시 CPU 개입을 줄이고, GPU 서버 간 통신 속도를 높일 수 있습니다. 대규모 분산 학습에서 GPU 사용률을 높이고 학습 시간을 단축하는 데 중요한 역할을 합니다. RoCE (RDMA over Converged Ethernet) RoCE는 이더넷 네트워크 위에서 RDMA를 사용할 수 있도록 하는 고성능 네트워크 기술입니다.

특히 RoCEv2는 기존의 이더넷 환경에서 동작할 수 있어, InfiniBand의 대안 또는 병행 기술로 활용됩니다. AI 클러스터에서는 서버 간 통신 지연을 줄이고, 기존 이더넷 기반 인프라를 활용할 수 있다는 장점이 있습니다. 컨테이너 (Container) 기술 어떠한 컴퓨팅 환경에서도 소프트웨어를 안정적으로 실행할 수 있도록 애플리케이션과 그에 필요한 모든 종속 항목을 표준화된 규격으로 패키징하는 가상화 기술입니다.

기존 가상화 방식 대비 시스템 오버헤드가 적어 자원 효율성이 높으며, 대규모 사용자에게 독립적인 연산 환경을 실시간으로 배포하고 회수하는 데 최적화되어 있습니다. 당사는 2015년 설립 이후, 별도의 프로그램 설치 없이 웹브라우저상에서 실시간 코딩 실습과 자동 채점이 가능한 클라우드 기반 교육 실습 플랫폼 '엘리스LXP'를 선보이며 사업의 기반을 마련하였습니다. 이를 바탕으로 삼성, SK, 현대자동차 등 주요 대기업을 비롯해 공공기관과 대학을 고객사로 확보하며, 실전형 디지털 전환(DX) 교육 시장 내 높은 점유율과 운영 레퍼런스를 구축하는 등 성장을 지속해 왔습니다.

이후 AI 기술이 전 산업으로 확산됨에 따라, 이용자는 단순 교육을 넘어 '기업 특화형 AI 솔루션' 개발에 대한 니즈가 급격히 증가했습니다. 특히 당사의 플랫폼을 통해 배출된 숙련된 학습자들이 실제 AI 모델 개발 단계로 진입하면서 고성능 컴퓨팅 자원(GPU)에 대한 수요가 높아지는 양상이 나타났습니다. 하지만 시장은 높은 GPU 도입 비용과 불안정한 수급 체계라는 장벽에 가로막혀 있었고, 이는 혁신적인 아이디어가 실행으로 이어지지 못하는 인프라 병목 현상을 야기했습니다.

당사는 이러한 시장 문제를 해결하기 위해, 교육 플랫폼 운영 과정에서 축적한 대규모 서버 가상화 기술과 분산 처리 노하우를 기반으로 클라우드 사업에 진출하였습니다.