
Multi-node GPU 클러스터의 전체 인프라 구성도입니다.
최상단에는 사용자(사람 아이콘)가 인터넷 클라우드를 통해 시스템에 접속합니다.
클러스터 내부에는 두 대의 Bare Metal Server가 나란히 배치되어 있습니다. 각 서버에는 다수의 GPU 칩(빨간색)과 1개의 CPU 칩(파란색)이 장착되어 있으며, NVSwitch를 통해 GPU 간 고속 통신이 이루어집니다. NVSwitch의 대역폭은 B300 기준 1.8TB/s, H100 기준 900GB/s입니다.
두 서버 사이에는 InfiniBand Switch가 위치하며, GPU Direct RDMA 구간을 통해 서버 간 GPU가 직접 통신합니다.
스토리지 레이어는 두 계층으로 구성됩니다.
첫 번째 계층(고성능 SSD): File Storage 두 개가 중앙의 고성능 SSD에 연결됩니다.
두 번째 계층(병렬 파일시스템): Parallel File Storage 두 개가 병렬 파일시스템으로 연결됩니다.
외부 스토리지로는 좌측에 Block Storage, 우측에 Object Storage가 별도로 연결되어 있습니다.
IT 환경 변화에 대한 전문적이고 유연한 대응
핵심 역량이 아닌 분야의 아웃소싱을 통해 본업의 경쟁력을 강화하고 싶고, 고정 비용이 소요되는 전산시스템, 인력을 변동비화하여 재무적인 유연성을 확보하고 싶을 때 대응 가능합니다.