본문으로 건너뛰기
GenWorks · GPU Cluster Management & AIOps Platform

GPU 클러스터 구축·운영부터
AI 모델 개발·서비스 배포까지,
하나의 플랫폼으로

복잡한 GPU 인프라를 쉽고 안정적으로 관리하고, 효율적인 자원 운영과 AI 서비스를 하나의 환경에서 완성합니다. GenWorks는 GPU 자원을 조직 간에 유연하게 공유·할당해 유휴 자원을 줄이고, Training과 Inference 환경을 상황에 따라 분리·변경합니다.

3일

클러스터 평균 구축 시간. BMC 기반 OS 자동 설치와 Zone 자동 구성으로 10일 걸리던 구축을 줄였습니다.

80%

GPU 평균 활용률. 조직 간 공유·할당과 선점 기반 통제로 30%에 머물던 활용률을 끌어올렸습니다.

50% 감소

유휴 자원. 유휴 노트북 자동 종료와 미할당 GPU 슬라이스 회수로 버려지던 자원을 되돌립니다.

KEY SUMMARY 2026 대한민국 리딩기업대상 IT솔루션 부문(AI 인프라 최적화) · 8년 연속 선정 · GPU 클러스터 구축·운영·자원 배분 통합 플랫폼
Field Issues

GPU 인프라 운영에서 반복되는 6가지 문제

GPU가 부족한지 판단하기 전에, 지금 가진 GPU가 어떻게 구축되고 어떻게 나뉘어 있는지부터 봅니다.

현장에서 생기는 문제 GenWorks의 답
클러스터 하나를 구축하는 데 열흘이 걸린다 BMC로 서버의 OS 설치부터 초기 설정까지 자동화하고, Zone 용도에 맞는 Slurm·Kubernetes 환경을 자동으로 구성합니다.
부서별 GPU 배분을 엑셀과 구두 합의로 관리한다 조직×Zone 단위 계약으로 배분을 시스템에 등록합니다. 쿼터·기간·정책이 계약 조건 그대로 반영되고, 갱신과 만료까지 추적됩니다.
부서마다 노드를 나눠 두어 한쪽은 놀고 한쪽은 기다린다 노드를 부서별로 고정 분할하지 않습니다. 각 부서의 몫은 쿼터·우선순위·선점으로 보장하고, 유휴 자원은 다른 부서가 초과 사용합니다.
학습이 끝나 추론 수요가 늘어도 환경을 바꾸기 어렵다 운영 중에 Zone 구성을 바꿉니다. 실행 중인 워크로드를 내리지 않고 학습 Zone의 자원을 추론 Zone으로 옮깁니다.
장애가 나면 사람이 원인을 찾아 복구한다 GPU·Kubernetes·Slurm을 상시 헬스 체크하고, 정책에 따라 재시작·리셋·격리를 자동으로 수행합니다.
연구자의 모든 요청이 운영자를 거쳐야 한다 연구자 전용 셀프서비스 콘솔에서 작업 공간 생성부터 학습·서빙·사용량 확인까지 직접 수행합니다. 쿼터와 정책은 화면과 제출 폼에 자동 반영됩니다.
Key Capabilities

운영과 사용을 함께 담은 4개 서비스 영역

운영자를 위한 Cluster Management · Workload Management · System Administration 3개 영역과, 데이터 과학자를 위한 Self-Service 영역으로 구성됩니다.

01 · 운영 영역 · 인프라

Cluster Management

GPU 클러스터의 물리 노드를 Zone별로 관리합니다

구축부터 운영·장애 자동 조치까지 인프라 전 과정을 담당합니다. 주 사용자는 인프라 운영자입니다.

  • Nodes & Zones노드 인벤토리 · 역할 할당BMC 스캔과 라이선스 인벤토리 대조(Serial 매칭) · Zone별 요약 · 미등록·미발견 노드 탐지
  • Provisioning구축 표준화OS Golden Image 일괄 배포(Ubuntu·RHEL) · Zone 단위 클러스터 자동 구성·워커 확장 · 실시간 배포·구성 로그
  • Health & Remediation장애 자동 조치GPU·K8s·Slurm 상시 헬스 체크 · 정책 기반 자동 복구·격리(재시작·리셋)
  • Monitoring통합 모니터링GPU·K8s·Slurm·전원 통합 모니터링 · 노드 헬스·GPU 온도·자원 사용 현황 · 심각도별 알람(이메일·Webhook)
  • GPU PartitioningMIG 인스턴스 관리MIG 프로파일 구성·템플릿 적용 · 미할당 슬라이스 경고와 자원 회수
  • Power & Rack전원 · 랙 운영BMC 전원 제어 · 정책 기반 예약 전원 운영 · 랙 배치도·전력 사용량·증설 여유 판단
02 · 운영 영역 · 자원 배분

Workload Management

워크로드의 논리적 배분과 실행을 통제합니다

계약을 시스템에 반영하고, 전체 워크로드를 감시·개입하며, 큐와 스케줄링 정책으로 자원 사용의 규칙을 정합니다. 주 사용자는 GPU 자원 관리자입니다.

  • Dashboard실시간 감시점GPU 가동률(전체·Zone별) · 큐 적체 · 장기 유휴·실패 급증·만료 임박 이상 감지
  • Workloads전체 워크로드 통제조직·사용자·타입별 전체 목록 · 강제 종료·우선순위 조정·재큐잉 · 모든 개입에 감사 로그(실행자·사유 필수)
  • Queues큐 · 스케줄링 정책큐 상태·순서 정책·조직 매핑 · 우선순위·선점·기본 배정 규칙
  • Contracts자원 계약 관리조직×Zone 계약 등록 · 배분율·만료·쿼터 임계 현황 · 만료 임박 갱신 처리(Renewals)
  • Reports기간 결산 리포트조직별 사용 통계 · 가동률·큐 통계 · 계약 이행 리포트 · CSV/PDF 내보내기
03 · 사용 영역 · 연구자

Self-Service

연구자가 운영자를 거치지 않고 직접 씁니다

작업 공간 생성부터 학습·서빙·사용량 확인까지 데이터 과학자가 직접 수행하는 전용 콘솔입니다. 쿼터와 정책이 화면과 제출 폼에 자동 반영되어, 사용자는 규칙을 외우지 않고 자기 몫 안에서 자유롭게 사용합니다.

  • Home지금 상태 스냅샷쿼터 요약 · 실행 중 워크로드 요약 · 공지와 새 작업 시작 안내
  • WorkloadsTraining · Inference학습 Job 제출·감시 · 추론 Endpoint 배포·상태 관리 · 내 GPU 총 점유 표시
  • Workspace내 작업 공간Jupyter·VSCode 노트북(유휴 자동 종료) · 부서 배분·계약·만료 D-day 조회 · 프로젝트와 재사용 자산 카탈로그
  • Usage사용 내역 집계GPU시간 기간별·Zone별·프로젝트별 추이 · 부서 관리자는 부서 범위로 조회
  • 알림 · 도움말헤더 유틸리티작업 종료·쿼터 임계·만료 임박 알림 · 폐쇄망 대응 내장 매뉴얼 · 고객사 문의 채널 연결
04 · 운영 영역 · 플랫폼 전반

System Administration

사용자·조직·권한·인증을 관리합니다

플랫폼 자체의 관리를 담당하는 횡단 영역이며, 모든 라이선스 구성에 기본 포함됩니다.

  • Users & Organizations사용자 · 조직 관리OS 계정·LDAP(AD) 인증 소스 연동 · 조직(부서) 생성 · 멤버십 관리와 다중 소속
  • Permissions권한 · 역할 게이팅운영자·부서 관리자·연구자 역할 차등 · 같은 화면을 보되 권한에 따라 가능한 동작만 달라집니다
  • Audit & Notices감사 · 공지 · 라이선스변경 전후 기록의 불변 저장·CSV 내보내기 · 플랫폼 공지·알림 채널 · 라이선스 현황
Architecture

공급 – 계약 – 수요를 잇는 자원 모델

인프라(공급)와 조직(수요)을 계약(배분)으로 연결해 GPU 자원을 체계적으로 관리합니다. 계약 조건을 바꾸면 자원 할당과 운영 환경에 바로 반영됩니다.

Zone
공급 · Supply

균질한 GPU 노드 풀 · 파티션. 단일 GPU 모델로 구성하고, 공용/전용 × 용도(Training·Inference)로 분류합니다. Cluster Management가 생성·구성합니다.

배분
연결 · Contract

조직×Zone의 자원 사용권. 쿼터·기간·정책이 계약 조건 그대로 시스템에 반영되며, 쿼터형(공용)과 노드 지정형(전용) 두 방식이 있습니다. Workload Management가 관리합니다.

조직
수요 · Demand

부서 · 프로젝트 · 사용자. 멤버의 그릇이자 배분을 받는 단위이며, 프로젝트 단위로 작업과 자산을 묶습니다. System Administration이 LDAP과 연동해 관리합니다.

통제 원칙노드를 부서별로 고정 분할하지 않습니다. 통제는 쿼터·우선순위·선점으로, 보장은 배분 단위의 예외(전용 Zone)로 합니다. 각 부서의 몫은 선점으로 확보하면서 유휴 자원은 다른 부서가 초과 사용할 수 있어 가동률이 유지됩니다.

용도에 따라 나누는 세 가지 Zone

  • Training공용 × AI 모델 학습. 대규모 배치 학습에 최적화된 공용 Zone으로, 쿼터형 배분으로 여러 조직이 공정하게 나눠 씁니다.
  • Inference공용 × AI 추론 서비스. 상주 서빙 워크로드를 위한 공용 Zone으로, 엔드포인트 단위의 추론 서비스가 배포됩니다.
  • Dedicated전용 × 단독 할당. 특정 팀·용도에 노드 단위로 단독 할당합니다. 물리적 전용이 계약 요건인 경우를 지원합니다.
Provisioning

고객 환경에 맞춰 유연하게 구성하고 확장합니다

Zone의 용도에 맞춰 소프트웨어 환경을 자동으로 구성합니다. 별도 구축 작업 없이 학습·추론·전용 Zone을 만들고, 운영 중에 다시 구성하고, 필요한 만큼 확장합니다.

GenWorks Zone Provisioning 화면. Management·Training·Inference·Dedicated Zone별 프로비저닝 현황과 노드 단위 Worker 확장 목록
Zone Provisioning — Zone별 프로비저닝 현황과 노드 단위 Worker 확장을 한 화면에서 관리합니다.
  1. 01 · 구축OS 자동 설치BMC를 활용해 서버의 OS 설치부터 초기 설정까지 자동화하여 클러스터 구축 시간을 단축합니다.
  2. 02 · 구성자동 프로비저닝Zone 용도에 맞는 소프트웨어(Slurm·Kubernetes) 환경을 자동으로 구성하고 프로비저닝합니다.
  3. 03 · 운영무중단 재구성학습이 끝나 추론 수요가 늘면 Zone 구성을 바꿉니다. 실행 중인 워크로드를 내리지 않고 자원을 옮깁니다.
  4. 04 · 확장성노드 자동 편입새 노드를 연결하면 Zone에 맞춰 자동으로 구성·편입되어, 사용자와 워크로드가 늘어도 반복 구축 작업이 필요 없습니다.
Trust & Governance

엔터프라이즈 운영의 기반

통제와 추적성을 기반으로 설계해, 엔터프라이즈 환경에 필요한 운영 신뢰성을 제공합니다.

  • 인증OS 계정 · LDAP 연동별도 계정 체계 없이 조직의 OS 계정과 LDAP(AD) 도메인으로 로그인합니다. 인증 소스에서 삭제된 계정은 자동으로 탐지·차단됩니다.
  • 계약 정합계약 = 시스템쿼터·기간·정책이 계약 조건 그대로 시스템에 반영됩니다. 계약서와 화면이 같은 말을 하고, 갱신이 곧 배분 변경이 되어 어긋남이 생기지 않습니다.
  • 추적운영 이력 완전 보존워크로드 강제 종료, 계약 등록·변경, 정책 변경까지 모든 운영 개입에 실행자·대상·시각·사유가 기록되어 컴플라이언스 요구를 하나의 근거로 충족합니다.
  • 폐쇄망온프레미스 · 폐쇄망 대응외부 연결 없이 사내 인프라에서 완결됩니다. 내장 매뉴얼과 리포트 CSV/PDF 내보내기 등 폐쇄망 고객사의 운영 관행을 반영했습니다.
Use Cases

같은 플랫폼, 역할마다 다른 일

세 역할이 같은 화면 구조를 쓰고, 권한에 따라 할 수 있는 일만 달라집니다.

인프라 운영자
Cluster Management

클러스터 자동 구성 · Zone 기반 노드 관리 · 통합 모니터링 · 장애 자동 조치·격리. 서버를 들여온 날부터 장애 대응까지 한 콘솔에서 처리합니다.

GPU 자원 관리자
Workload Management

GPU 자원 최적 배치 · 조직 간 자원 공유·할당 · GPU 분할 · 유휴 자원 자동 정리. 부서별 계약과 큐 정책으로 배분 기준을 사람이 아니라 규칙이 갖게 합니다.

데이터 과학자 · 서비스 운영자
AI Model Development

AI 개발 환경 · AI 모델 학습 · AI 모델 서빙 · AI 워크로드 최적화. 자기 몫 안에서 노트북을 띄우고, 학습 Job을 제출하고, 추론 Endpoint를 배포합니다.

Outcomes

도입 시 기대 효과

  1. 01배분 자동화엑셀과 구두 합의로 관리되던 부서별 GPU 배분이 계약 기반의 시스템 관리로 바뀌어, 배분·갱신·만료가 추적 가능한 업무가 됩니다.
  2. 02가동률 극대화쿼터·선점 기반 통제로 부서별 보장과 유휴 자원 활용을 함께 달성하고, 유휴 노트북 자동 종료로 낭비를 회수합니다.
  3. 03운영 부담 감소연구자가 셀프서비스로 직접 작업해 운영자의 요청 처리 업무가 줄고, 장애는 자동 조치가 사람보다 먼저 복구합니다.
  4. 04거버넌스 내재화조직별 사용 집계·계약 이행 리포트·감사 로그로 "누가 얼마나 썼고, 계약대로 쓰였나"에 플랫폼이 직접 답합니다.
Specifications

지원 환경

제품소개서 v1.0 기준입니다. 화면과 기능은 버전에 따라 달라질 수 있습니다.

항목 내용
배포 형태온프레미스 설치형 · 폐쇄망 대응(외부 연결 없이 사내 인프라에서 완결)
서버 OSOS Golden Image 일괄 배포 — Ubuntu · RHEL
서버 관리BMC 기반 노드 스캔 · OS 자동 설치 · 전원 제어·예약 전원 운영
오케스트레이션Zone 용도별 Slurm · Kubernetes 자동 구성
GPU 분할MIG 프로파일 구성·템플릿 적용 · 미할당 슬라이스 회수
워크로드Jupyter·VSCode 노트북 · 학습 Job · 추론 Endpoint(상주 서빙)
사용자 인증OS 계정 · LDAP(Active Directory) 연동 · 운영자·부서 관리자·연구자 역할
알림 · 리포트이메일 · Webhook 알람 · CSV/PDF 리포트 내보내기 · 감사 로그 CSV 내보내기
Adoption & Support

진단에서 운영까지, 도입 절차

대표 Zone과 배분 정책으로 먼저 검증한 뒤 확대합니다. 단계마다 산출물을 남깁니다.

Step 수행 내용 산출물
01. 현황 진단GPU 노드 인벤토리·사용률·부서별 배분 현황 분석GPU 자원 진단 보고서
02. PoC대표 Zone 구성, 쿼터·선점 정책과 자동 조치 검증PoC 결과서
03. 구축노드 스캔·OS 배포, Zone 구성, LDAP 연동, 조직×Zone 계약 등록구축 결과서, Zone·배분 설계서
04. 교육·이행운영자·부서 관리자·연구자 역할별 교육, 운영 인수인계운영 매뉴얼, 사용자 가이드
05. 기술지원업데이트, 장애 대응, 정기 점검기술지원 SLA
Related Products
AgentOn Security
AI Security Domain Service

보안 데이터를 온톨로지로 연결해 조치 우선순위를 제시하는 AI 에이전트입니다. 온프레미스 LLM을 GenWorks가 구성한 GPU 자원 위에서 운영합니다.
AI Infrastructure
GPU · Kubernetes · Slurm

GPU 인프라 설계·구축·운영 사업. 제품 도입과 함께 인프라까지 맡습니다.

흩어진 GPU, 하나의 플랫폼으로 묶으십시오

노드 인벤토리와 부서별 배분 현황 진단부터 함께 봅니다. PoC도 신청하실 수 있습니다.

도입·컨설팅 문의 →