본문 바로가기
AI 시대의 클라우드, 운영체계로 다시 설계하다 – 엔터프라이즈 클라우드의 새로운 역할과 운영 전략 AI 시대의 클라우드, 운영체계로 다시 설계하다 – 엔터프라이즈 클라우드의 새로운 역할과 운영 전략
클라우드

AI 시대의 클라우드, 운영체계로 다시 설계하다 – 엔터프라이즈 클라우드의 새로운 역할과 운영 전략

최성철
2026-10-07

AI 시대의 엔터프라이즈 클라우드는 단순한 인프라 제공을 넘어 표준 운영, 워크로드 최적화, 보안 내재화, 운영 자동화를 통합한 '기업용 운영체계'로 재설계되어야 합니다.

Executive Summary

  • 엔터프라이즈 클라우드의 역할은 단순히 인프라 제공을 넘어 복잡한 IT 환경을 표준화하고 통제하는 '기업 통합 운영체계'로 재설계되어야 합니다.
  • AI 기술 스택의 운영 복잡성을 해결하기 위해 표준 운영, 워크로드 최적화, 보안 내재화, 운영 자동화라는 4대 전략을 통해 인프라 구축부터 검증, 운영까지의 전 과정을 체계화해야 합니다.
  • 삼성클라우드플랫폼(SCP)을 통해 분산된 자원을 일관된 기준으로 관리함으로써, 기업은 단순한 인프라 확보 속도가 아닌 '운영의 안정성과 효율성'이라는 AI 시대의 핵심 경쟁력을 완성할 수 있습니다.

SaaS is DEAD!
Microsoft의 CEO Satya Nadella는 2024년에 한 대담에서 SaaS를 비롯한 기존 비즈니스 애플리케이션의 역할이 AI 에이전트 시대에 크게 달라질 수 있다는 취지의 발언을 했습니다.[1] 이후 AI의 성능은 폭발적으로 향상됐고, 애플리케이션을 개발하고 사용하는 방식 역시 빠르게 변하고 있습니다. 과거에는 특정 업무를 수행하기 위해 애플리케이션을 직접 개발하거나 구매해야 했다면, 이제는 자연어로 필요한 기능을 설명하고 AI를 활용해 서비스를 만들 수 있는 시대가 열리고 있습니다. 앞으로는 사용자가 수많은 애플리케이션의 메뉴와 기능을 직접 탐색하는 것보다, AI가 사용자의 의도를 이해하고 필요한 데이터와 시스템을 연결해 업무를 수행하는 방식이 점점 더 일반화될 것입니다.

그렇다면 다음과 같은 의문을 가질 수 있을 것 같습니다. 애플리케이션의 역할이 달라지는 AI 시대에도 클라우드는 여전히 필요할까요? 필요하다면 어떤 클라우드가, 어디에, 어떤 방식으로 존재해야 할까요?

AI로 인해 애플리케이션의 경계가 허물어진다고 해서 그 뒤에서 작동하는 컴퓨팅, 데이터, 네트워크, 보안과 운영까지 사라지는 것은 아닙니다. 오히려 AI 에이전트와 모델, GPU, 데이터, 오픈소스 기술이 빠르게 늘어나면서 이를 안정적으로 연결하고 통제하며 운영해야 하는 기반의 중요성이 더 커질 것입니다.

따라서 AI 시대가 본격화하고 있는 지금, ‘클라우드가 필요한가’보다는 ‘클라우드는 어떤 역할을 해야 하는가’로 바꾸어 질문해야 합니다. 앞으로 엔터프라이즈 클라우드는 단순히 서버와 스토리지를 제공하는 인프라를 넘어, 복잡해지는 기업 IT를 표준화하고, 적합한 곳에 워크로드를 배치하고, 보안을 내재화하며, 운영을 자동화하는 기업의 통합 운영체계로 다시 설계되어야 합니다.

1. AI 시대, 왜 클라우드를 다시 설계해야 하는가

AI가 애플리케이션의 사용 방식을 바꾸고 있다고 해서 IT 인프라의 역할까지 줄어드는 것은 아닙니다. AI가 더 많은 업무와 서비스를 대신할수록 그 뒤에서는 더 많은 연산 자원과 데이터, 모델, 네트워크, 보안 체계가 움직이게 마련입니다. 문제는 이러한 자원을 기존의 클라우드 운영 방식으로는 관리하기가 점점 어려워지고 있다는 게 현실입니다. 전통적인 IT 환경에서는 OS, DB, 미들웨어, 애플리케이션, 라이브러리가 주요 관리 대상이었습니다. 그러나 AI 플랫폼이 결합되면서 AI 에이전트, Python 환경, 모델 가중치, vLLM*, Vector DB, Kubernetes, GPU 관련 패키지까지 기술 스택이 한층 더 깊어지고 있습니다. 보안 역시 기존의 CVE** 취약점이나 라이선스 관리만으로 끝나지 않습니다. 모델/가중치의 악성코드, RAG*** 데이터 오염, 학습 데이터 출처까지 새로운 관리 대상에 포함되고 있습니다. * vLLM(Virtual Large Language Model): 대규모 언어 모델(LLM)의 추론(Inference)과 서빙(Serving) 속도를 획기적으로 높여주는 고성능 오픈소스 라이브러리
** CVE(Common Vulnerabilities and Exposures): 공개적으로 알려진 소프트웨어 및 하드웨어의 보안 취약점을 가리키는 국제 표준 고유 식별 번호
*** RAG(Retrieval-Augmented Generation): 외부 지식이나 문서에서 질문과 관련된 정보를 검색한 뒤, 그 정보를 바탕으로 답변을 생성하는 AI 방식

AI가 생성하는 결과물의 양도 운영 방식을 바꾸고 있습니다. AI를 활용하면 요구사항 분석, 설계, 코드, 테스트 시나리오와 같은 산출물을 훨씬 빠르게 만들 수 있습니다. 하지만 그 결과가 정확한지 검증하고, 실제 서비스에서 지속적으로 사용할 수 있도록 운영하며, 변경된 정책과 시스템에 맞게 테스트를 갱신하는 일은 여전히 필요합니다. AX 경험에서도 AI 활용이 확대되면서 사람의 업무가 사라지기보다 개발에서 검증, 운영, 테스트로 이동하는 현상이 나타나고 있습니다. AI가 생산의 속도를 높일수록 그만큼 운영의 중요성도 커지고 있는 것입니다.[3]

클라우드 환경 자체도 더 복잡해지고 있습니다. 모든 워크로드를 하나의 퍼블릭 클라우드에 올리는 방식보다, 성능과 비용, 데이터 보안, 규제, 서비스 특성에 따라 온프레미스와 퍼블릭 클라우드를 병행 활용하는 하이브리드 환경이 중요해지고 있습니다. 하이브리드 클라우드의 핵심은 단순히 두 환경을 사용하는 것이 아니라, 워크로드 특성에 맞는 최적 배치와 비용 예측성, 일관된 모니터링과 운영, 통합 거버넌스를 확보하는 데 있습니다.

결국 AI 시대의 클라우드가 풀어야 할 문제는 ‘얼마나 많은 인프라를 제공할 수 있는가’가 아닙니다. 다음과 같은 질문이 더 중요해질 것입니다.

  • 서로 다른 클라우드 환경을 어떻게 일관된 기준으로 운영할 것인가?
  • 각각의 워크로드를 어떤 환경에 배치해야 가장 효과적인가?
  • 복잡해진 기술 스택에서 보안을 어떻게 기본 구조로 내재화할 것인가?
  • AI가 만들어내는 속도에 맞춰 운영까지 어떻게 자동화할 것인가?

모든 기업이 이러한 질문에 같은 답을 할 필요는 없습니다. 그룹사와 계정별 운영 편차가 크다면 표준 운영이 먼저일 수 있고, 퍼블릭/온프레미스 환경이 복잡하게 얽혀 있다면 워크로드 최적화가 우선일 수 있습니다. 규제와 데이터 보호가 핵심이라면 보안 내재화, AI 도입 이후 운영 부담이 빠르게 늘고 있다면 운영 자동화부터 시작할 수 있습니다. 결국 어디에서 시작하느냐보다 각각의 개선이 장기적으로 하나의 운영체계 안에서 연결될 수 있도록 클라우드를 다시 설계하는 것이 중요합니다. AI 시대의 엔터프라이즈 클라우드는 ‘서버를 어디에 둘 것인가’를 결정하는 인프라의 문제가 아니라, 기업의 IT를 어떤 기준으로 배치하고 통제하며 운영할 것인가를 결정하는 운영체계의 문제로 확장되고 있습니다.

2. 개별 운영에서 표준 운영으로 – 한진그룹 사례

클라우드 도입 초기에는 각 조직이나 시스템이 필요에 따라 환경을 구성하는 방식이 효율적일 수 있습니다. 그러나 클라우드 활용 범위가 넓어지고 계정과 워크로드가 증가하면, 개별 최적화가 오히려 운영 복잡성의 원인이 됩니다. 조직마다 계정 구조와 권한 체계가 다르고 네트워크와 보안 정책도 제각각이라면 동일한 수준의 운영 품질과 보안을 유지하기 어렵기 때문입니다. 따라서 클라우드가 일정 규모를 넘어서는 시점부터는 개별 환경을 각각 관리하는 방식에서 공통 기준으로 운영하는 방식으로 전환할 필요가 있습니다.

한진그룹의 사례는 이러한 문제를 잘 보여줍니다. 그룹사별 IT/보안 전담 인력과 투자 수준에 차이가 있었고, 독립적으로 구성된 환경과 복잡한 인터페이스로 인해 운영 부담이 커지고 있었습니다. 클라우드 구축 시점에 따라 적용된 기준도 달라서 그룹사별 운영 품질에 격차가 발생했으며, 그룹 전체의 인프라와 보안 상태를 한눈에 파악하기도 어려웠습니다. 이에 한진그룹은 그룹사별로 제각각 운영하던 클라우드 환경을 개별적으로 관리하는 방식에서 벗어나, 공통 기준을 일관되게 적용할 수 있는 표준 운영 환경으로 전환했습니다.[4]

표준 운영이라고 해서 모든 시스템을 완전히 동일하게 구성한다는 의미는 아닙니다. 여러 조직에 공통으로 필요한 계정 구조와 권한, 네트워크, 보안 기준은 표준화하고, 각 워크로드의 특성에 맞는 설정은 그 기준 안에서 개별적으로 적용하는 방식입니다. 한진그룹은 이를 구현하기 위해 랜딩존(Landing Zone)*을 도입했습니다. 멀티 계정과 조직 체계, 보안 가드레일, SSO 기반 접근 권한 관리, 자동화된 계정 생성 체계를 구성하고, 신규 계정이 생성될 때 네트워크와 보안 정책을 적용한 뒤 로그와 모니터링 체계에 연결했습니다. 즉, 계정을 만든 뒤 운영 기준을 점검하고 보완하는 것이 아니라, 계정이 생성되는 시점부터 공통 운영 기준이 적용되도록 구조화한 것입니다.[5] * 랜딩존(Landing Zone): 기업이 클라우드를 사용할 때 계정, 권한, 네트워크, 보안, 로그, 모니터링 등 공통 운영 기준을 미리 설계해 두는 표준 클라우드 기반 환경
이러한 전환에서는 문서만으로 표준을 정하는 데서 끝나지 않고, 계정 생성과 운영 과정에서 그 기준이 자동으로 적용되도록 만드는 것이 중요합니다. 기존에는 담당자가 계정마다 권한과 네트워크, 보안 설정을 직접 구성한 뒤 보안 기준 충족 여부를 확인해야 했습니다. 반면 그룹 랜딩존(Group Landing Zone)에서는 신규 계정이 생성될 때 정해진 권한과 네트워크, 보안 정책이 자동으로 적용되고, 로그와 보안 상태를 중앙에서 확인할 수 있습니다. ‘각자 설정하고 나중에 확인하던 방식’에서 ‘처음부터 공통 기준을 적용하고, 이를 지속적으로 확인하는 방식’으로 운영 구조가 바뀐 것입니다. 이 과정에서 표준 구성을 반복적으로 적용하는 수단으로 IaC(Infrastructure as Code)가 활용하고 있습니다. 인프라 구성과 설정을 코드로 정의하면 계정이나 환경이 달라져도 동일한 구성을 반복해서 적용할 수 있고, 변경 내용도 코드 기준으로 추적할 수 있습니다. 여기에 CI/CD를 연계하여 애플리케이션 배포 과정에서 버전을 관리하고 취약점을 자동으로 점검하고 있습니다. 한진그룹은 이러한 IaC 기반 운영 자동화, CI/CD를 통한 안전한 배포, 데이터 거버넌스를 애플리케이션 현대화를 위한 주요 요소로 제시하고 있습니다.

표준 운영은 통제를 강화하는 데에만 목적이 있는 것이 아닙니다. 계정, 권한, 네트워크, 보안처럼 여러 조직이 반복해서 구성하던 영역을 공통 기준으로 관리하면, 각 조직은 동일한 설정을 매번 새로 구성할 필요가 없습니다. 한진그룹도 공통 보안 기반을 Group Landing Zone으로 구성해 반복 작업을 줄이고, 각 애플리케이션의 특성에 따른 보안 요구와 현대화에 집중할 수 있는 구조를 마련했습니다. 결국 표준 운영은 공통 영역을 동일한 기준으로 관리하고, 개별 워크로드에는 필요한 구성을 적용함으로써, 클라우드 규모가 커져도 운영 복잡성을 낮출 수 있는 방식입니다.

3. 클라우드 선택에서 워크로드 최적화로 – NC 사례

오랫동안 클라우드 전략은 ‘퍼블릭 클라우드를 쓸 것인가, 온프레미스를 유지할 것인가’라는 선택의 문제로 다뤄졌습니다. 하지만 AI와 글로벌 서비스가 확산하는 지금은 어느 한 환경을 선택하는 것보다, 워크로드의 성능, 비용, 보안, 확장성 요구에 따라 실행 환경을 결정하는 것이 더 중요해지고 있습니다. 수요 변화가 크고 신속한 자원 확장이 필요한 서비스는 퍼블릭 클라우드의 빠른 프로비저닝과 탄력적인 확장성을 활용할 수 있습니다. 반면 일정한 부하가 지속되거나 성능 안정성, 데이터 통제, 비용 예측성이 중요한 워크로드는 온프레미스를 고려할 수 있습니다. 따라서 퍼블릭/온프레미스 중 하나를 일률적으로 선택하는 것이 아니라, 워크로드의 특성에 따라 실행 환경을 다르게 배치해야 합니다. 클라우드 전략의 기준이 ‘어떤 클라우드를 선택할 것인가’에서 ‘이 워크로드를 어디에서 운영할 것인가’로 이동하고 있는 것입니다.

이러한 관점에서 하이브리드 클라우드의 가치를 퍼블릭 클라우드와 온프레미스를 단순히 병행 사용하는 것만으로 판단하기는 어렵습니다. 워크로드별 요구 조건에 따라 실행 위치를 달리하면서도, 서로 다른 환경에 동일한 모니터링, 운영, 보안 기준을 적용할 수 있어야 합니다. NC 사례에서는 하이브리드 클라우드 운영의 주요 요소로 비용 예측성, 통합 관리, 통합 거버넌스, 서비스 민첩성을 제시합니다. 예를 들어 상시 부하와 피크 부하를 구분해 워크로드를 배치함으로써 비용을 관리하고, 퍼블릭 클라우드와 온프레미스 전반에 동일한 모니터링 체계와 운영 프로세스, 자동화/오케스트레이션, 보안 정책과 컴플라이언스 기준을 적용하는 방식입니다. 즉, 하이브리드 클라우드의 핵심은 워크로드별로 실행 환경을 달리하되, 운영과 보안은 일관된 기준으로 관리하는 데 있습니다.[6]

이러한 워크로드 최적화가 특히 중요한 분야가 글로벌 게임 서비스입니다. NC처럼 여러 국가와 지역의 사용자를 대상으로 글로벌 서비스를 운영하려면 대규모 동시 접속을 처리하는 Extreme Scale, 사용자 체감 품질에 직접 영향을 주는 초저지연 네트워크, 여러 지역에서 일관된 서비스 품질을 유지해야 하는 Global Consistency, 국가별 인프라 환경과 규제에 대응하는 Regional Complexity를 고려해야 합니다. 따라서 특정 클라우드에 인프라를 일괄적으로 배치하기보다 지역별 사용자 분포와 지연시간, 네트워크 품질, 규제 요건을 기준으로 퍼블릭 클라우드와 온프레미스의 활용 방식을 결정해야 합니다. NC 사례에서는 퍼블릭 클라우드와 온프레미스를 전용선으로 연결하고, 지역별 육상망과 해저 케이블까지 고려해 사용자와 서비스 간 지연시간을 줄이는 네트워크 경로를 구성합니다. 이중화와 우회 경로를 마련해 장애에 대비하고, 암호화와 트래픽 모니터링을 적용해 연결 구간의 안정성과 보안도 관리합니다.

하지만 워크로드의 실행 위치와 네트워크 경로를 결정하는 것만으로 최적화가 끝나는 것은 아닙니다. 서비스가 여러 국가와 인프라 환경으로 분산될수록 누가 어떤 역할을 맡고, 장애와 변경에 어떤 절차로 대응할 것인지까지 운영 방식을 표준화해야 합니다. NC 사례에서는 현지 조직이 국가별 인프라 구축과 규제 대응을 담당하고, GDC(Global Development Center)가 24×7 모니터링과 장애 대응을 수행합니다. 본사와 각 지역 간 요청 창구는 Single Point of Contact로 연결하고, Standard Playbook을 적용해 지역이 달라도 공통 절차에 따라 인프라를 구축하고 운영할 수 있도록 구성했습니다. 글로벌 워크로드는 지역과 서비스 요구에 따라 다르게 배치하되, 모니터링, 장애 대응, 운영 절차는 공통 기준으로 관리하는 것입니다.

결국 워크로드 최적화는 단순히 인프라의 위치를 결정하는 문제가 아닙니다. 성능과 비용, 보안, 규제, 네트워크, 운영 조건을 기준으로 각 워크로드의 실행 환경을 결정하고, 분산된 환경을 일관된 운영체계로 관리하는 것입니다. 클라우드 선택의 시대에는 ‘어떤 클라우드를 사용할 것인가’가 중요한 질문이었다면, 하이브리드 시대에는 ‘이 워크로드를 어디에서 운영해야 가장 효과적인가?’가 중요합니다. 엔터프라이즈 클라우드의 역할도 특정 환경으로의 일괄적인 이전을 지원하는 데서 그치지 않습니다. 워크로드 최적화란 각 워크로드를 적합한 환경에 배치하고, 서로 다른 환경에서도 운영과 보안은 일관된 기준으로 관리하는 것입니다.

4. 보안 점검에서 보안 내재화로 – iM캐피탈 사례

클라우드와 오픈소스의 활용이 확대되면서 보안을 적용하는 방식도 달라지고 있습니다. 시스템을 구축한 뒤 취약점을 점검하고 문제가 발견되면 보완하는 방식만으로는 복잡해지는 기술 환경을 관리하기 어려워지고 있기 때문입니다. 특히 AI와 클라우드 네이티브 환경에서는 관리해야 할 구성 요소와 의존성이 더욱 늘어납니다. 전통적인 IT 환경에서는 OS, DB, 미들웨어, 애플리케이션, 라이브러리가 주요 관리 대상이었다면, AI 플랫폼에서는 AI 에이전트, Python, AI 모델 가중치, vLLM, Vector DB, Kubernetes 등이 추가됩니다. 보안 검증 범위도 기존 CVE 취약점과 라이선스 위반 여부에서 모델/가중치의 악성코드, RAG 데이터 오염 등으로 확대되며, AI 모델과 학습 데이터가 어디에서 제공되었는지도 확인하고 관리해야 합니다. 따라서 보안은 구축 이후 취약점을 점검하는 데 그치지 않고, 기술과 구성 요소를 선택하고 도입하는 단계부터 버전과 의존성을 관리하고 변경 사항을 추적하는 운영 과정까지 지속적으로 적용되어야 합니다.

금융권은 이러한 변화에 더욱 엄격하게 대응해야 하는 분야입니다. iM캐피탈은 규제와 보안 요구를 충족하면서 오픈소스 전환을 추진하기 위해 기술 전환과 운영 거버넌스를 정비했습니다. DBMS는 PostgreSQL 기반 오픈소스로, Web/WAS는 Apache/Tomcat 기반으로 전환하고, 인프라는 온프레미스 단일 서버 구조에서 Kubernetes 기반 클라우드 네이티브 환경으로 확대했습니다. 벤더별로 분산되어 있던 기술 지원도 단일 창구의 24×7 통합 지원 체계로 전환했습니다. 오픈소스의 활용 범위가 넓어지면 선택할 수 있는 기술은 많아지지만, 동시에 버전과 의존성, 패치, 기술 지원, 장애 대응 등 관리해야 할 대상도 늘어납니다. 따라서 오픈소스 전환의 핵심은 오픈소스 기술을 얼마나 많이 도입하는가가 아니라, 어떤 기술을 선택하고 검증하며 운영할 것인지에 대한 공통 기준을 갖추는 데 있습니다.[2]

이 사례는 보안 내재화가 무엇을 의미하는지 보여줍니다. 보안 내재화란 시스템 구축이 끝난 뒤 별도로 보안을 점검하는 것이 아니라, 기술의 선정부터 구축, 변경, 운영에 이르는 각 단계에 보안 기준과 검증 절차를 적용하는 것입니다. 오픈소스를 도입할 때는 검증된 구성 요소를 선정하고, 버전과 의존성을 관리하며, 취약점이 발견되면 정해진 절차에 따라 패치하고 대응할 수 있어야 합니다. 클라우드 네이티브 환경에서도 구성 요소가 추가되거나 변경될 때 동일한 보안 기준으로 검증하고, 장애나 기술 이슈가 발생하면 정해진 지원 절차에 따라 대응할 수 있어야 합니다. 즉, 기술을 도입한 이후 별도의 보안 점검을 추가하는 것이 아니라, 기술을 선정하고 운영하는 과정에서 지속적으로 수행하는 관리 절차로 전환하는 것입니다.

AI가 적용되면 이러한 보안 관리 대상은 소프트웨어뿐 아니라 모델과 데이터까지 확대됩니다. 어떤 AI 모델을 사용하고 있는지, 모델 가중치에 악성코드가 포함되어 있는지, RAG에 연결되는 데이터가 오염되지 않았는지, AI 모델과 학습 데이터의 출처를 확인할 수 있는지까지 관리해야 합니다. 따라서 기존의 소프트웨어 취약점이나 라이선스 위반 여부를 점검하는 것만으로는 AI 환경에서 새롭게 발생하는 보안 위험을 충분히 관리하기 어렵습니다. 결국 AI 시대의 보안 내재화란 문제가 발생한 뒤 취약점을 확인하는 방식에서 벗어나, 기술과 구성 요소를 선택하고 도입하는 단계부터 변경과 운영에 이르기까지 위험 요소를 지속적으로 확인하고 관리하는 것입니다.[7]

5. 구축 자동화에서 운영 자동화로 – GS리테일 사례

클라우드가 확산하면서 자동화의 범위도 꾸준히 넓어져 왔습니다. 초기에는 서버를 생성하고 환경을 구성하는 작업을 자동화하는 것이 중요했다면, 이후에는 IaC와 CI/CD를 통해 인프라 구축과 애플리케이션 배포까지 자동화하는 방향으로 발전했습니다. 그러나 AI가 개발과 업무 자동화를 가속하면서 새로운 병목이 나타나고 있습니다. 시스템과 서비스를 빠르게 만드는 것만큼 AI가 생성한 산출물을 검증하고, 배포된 서비스를 지속적으로 운영하며, 기능이나 정책 변경에 따라 테스트 케이스를 수정하는 일이 중요해진 것입니다. 따라서 AI 시대의 자동화는 인프라 구축과 애플리케이션 배포를 빠르게 하는 데서 그치지 않고, 산출물 검증, 서비스 운영, 테스트 관리까지 확대되어야 합니다.[8]

GS리테일은 생산성 향상을 목표로 현업과 IT 전반에 AI 활용을 확대해 왔습니다. 현업은 AI를 활용해 업무 프로세스를 개선하고 대시보드를 직접 제작하며, AX 조직은 레거시 소스코드와 DB, API를 AI로 분석해 지식 자산으로 전환했습니다. 또한 AI 프로토타입을 빠르게 실증/배포할 수 있는 내부 플랫폼도 마련했습니다. RPA 운영에서는 글로벌 솔루션을 Brity RPA로 전환하고, GDC가 운영을 담당하는 체계를 구축했으며, 기존 67개의 RPA를 중복 제거와 통합을 통해 54개로 축소했습니다. 전자결재 승인 허브에서는 AI가 요구분석, 개발, 테스트를 수행하고 사람은 의사결정과 승인을 담당하도록 역할을 나눴습니다.[9]

이처럼 AI 활용이 확대되었지만, 사람의 업무 부담은 줄어들지 않고, 개발에서 검증, 운영, 테스트로 이동했습니다. AI로 시스템 하나를 분석하면, 16,979개의 산출물이 생성되었고, 이를 사람이 건당 5분씩 전수 검증하려면 약 9M/M의 작업이 필요해 사실상 수행하기 어려운 수준이었습니다. 또한 현업이 개발한 에이전트를 전사로 확산하는 경우 월평균 200회 이상의 배포가 발생해 본연의 업무 수행이 불가할 정도였습니다. 그리고 상시 확인해야 하는 테스트 케이스도 1만5천 개 수준에 달했고, 정책이 변경될 때마다 테스트 케이스를 다시 설계하고 갱신해야 하는 작업도 추가되었습니다. 즉, AI가 개발과 산출물 생성을 가속할수록 사람이 처리해야 하는 검증, 운영, 테스트 업무가 증가하면서 새로운 운영 병목이 발생한 것입니다. 이에 GS리테일은 오프쇼어를 단순히 개발 인력을 보완하는 수단이 아니라, AI 산출물의 검증과 서비스 운영, 테스트를 담당할 기능/역량을 확보하는 방식으로 변경했습니다. AI 산출물은 GDC 전담 조직이 검증하고, 검증 과정에서 업무 로직을 익힌 인력을 이후 운영 업무에 투입하며, 테스트 케이스는 설계와 갱신 절차를 체계화하고 반복적인 테스트 실행은 자동화하는 방식입니다. 장기적으로는 대규모 산출물을 자동으로 검증하는 Auto-Validation, 운영 업무를 자동화하고 필요에 따라 운영 자원을 조정하는 No-Ops 기반 Elastic Ops, 회귀 테스트 전 과정을 자동화하는 Full Automation QA Factory로 발전시킬 예정입니다. 자동화의 범위를 개발/구축에서 끝나지 않고, 검증, 운영, 테스트까지 확대하는 것입니다.

운영 자동화는 자동화 도구를 추가하는 것만으로 완성되지 않습니다. 변경 요청 접수, 분석/설계, 코드 검토, 보안 점검, 테스트, 최종 검수, 배포로 이어지는 운영 절차를 먼저 표준화하고, 각 단계에서 AI가 수행할 작업과 사람이 확인/승인할 작업을 구분해야 합니다. 변경 요청 처리 워크플로우를 AI 활용을 전제로 재설계하고 단계별로 AI Skill을 적용하되, AI가 생성한 산출물은 Human Verify Gate에서 사람의 검증/승인을 거친 뒤 실제 시스템에 반영합니다. 운영 자동화는 모든 업무를 AI에 맡기는 것이 아니라, 반복적이고 규칙화할 수 있는 작업은 AI가 수행하고 품질 검증, 예외 판단, 최종 승인처럼 책임 있는 판단이 필요한 단계는 사람이 담당하도록 역할과 운영 절차를 재설계하는 것입니다.

AI 서비스가 소수일 때는 사람이 직접 산출물을 검증하고 배포와 테스트를 관리할 수 있습니다. 그러나 에이전트와 AI 서비스가 늘어나고 산출물, 배포, 변경 요청이 지속적으로 증가하면 인력을 추가하는 방식만으로는 검증과 운영 업무를 처리하기 어렵습니다. 결국 운영 자동화란 구축과 배포에 한정됐던 자동화를 검증, 운영, 테스트까지 확대해, AI 서비스가 늘어나더라도 산출물과 변경 사항을 안정적으로 관리할 수 있도록 하는 것입니다.

6. 엔터프라이즈 클라우드, 통합 운영 플랫폼으로 진화하다

기업의 클라우드 과제는 컴퓨팅이나 스토리지를 얼마나 빠르게 확보하느냐에 머물러 있지 않습니다. 클라우드의 활용 범위가 넓어질수록 계정과 권한, 네트워크와 보안 정책을 표준화하고, 워크로드의 특성에 따라 퍼블릭 클라우드와 온프레미스에 적절히 배치해야 합니다. 서로 다른 환경에 분산된 자원과 서비스도 공통 기준으로 모니터링하고 운영할 수 있어야 합니다. 개발과 배포 과정에는 보안 기준을 적용하고, AI 서비스가 늘어나면서 증가하는 변경 요청 처리, 배포, 검증, 운영 업무를 자동화할 수 있는 체계도 필요합니다. 따라서 엔터프라이즈 클라우드를 선택하는 기준도 개별 인프라 기능을 비교하는 데서, 분산된 IT 환경을 일관된 기준으로 관리하고 운영을 자동화할 수 있는가로 확대되어야 합니다.

이러한 관점에서는 개별 클라우드 서비스를 각각 도입해 별도로 운영하는 것보다, 계정 및 정책 관리, 워크로드 배치, 보안, 운영 자동화를 통합적으로 관리할 수 있는 플랫폼이 적합합니다. 신규 계정과 자원이 생성될 때 권한, 네트워크, 보안 정책을 자동으로 적용하고, 퍼블릭 클라우드와 온프레미스를 연결하며, 사용자 활동과 자원 상태를 중앙에서 모니터링할 수 있습니다. 또한 개발, 배포, 운영 절차를 표준화하고 반복되는 작업을 자동화할 수 있습니다. Compute, Storage와 같은 인프라 자원을 제공하는 것뿐 아니라, 계정, 권한, 네트워크, 보안, 모니터링, DevOps까지 동일한 관리 체계로 운영할 수 있습니다.

Samsung Cloud Platform(SCP)은 기업이 클라우드 자원을 구축하고 운영하는 데 필요한 서비스를 제공합니다. Compute, Storage, Database, Container와 같은 실행 기반부터 Networking, Security, Hybrid Cloud, DevOps Tools, AI/ML, Management까지 다양한 영역을 지원합니다. 이를 통해 기업과 공공기관은 필요한 클라우드 자원과 서비스를 Self Service 방식으로 직접 생성하고 이용할 수 있습니다.[10] 그러나 기업 환경에서는 클라우드 자원을 생성하는 것 자체보다, 계정이 생성되는 시점부터 권한, 보안, 로깅 등 공통 운영 기준을 일관되게 적용하는 것이 중요합니다. SCP의 Cloud Control은 멀티 계정 환경에서 Landing Zone을 구성하고, 조직과 계정 구조를 정의하며, 가드레일과 로깅 등 운영에 필요한 설정을 적용할 수 있도록 지원합니다. 신규 계정에는 보안, 규정 준수, 운영 정책, 기본 로깅 설정을 자동으로 적용하고, ID Center와 연계해 사용자별 접근 권한을 관리할 수 있습니다. 또한 조직 단위로 로그와 정책 준수 상태를 확인할 수 있습니다. 즉, 신규 계정을 생성할 때부터 공통 정책과 기본 설정을 자동으로 적용하고, 이후에도 중앙에서 관리할 수 있습니다.[11]

퍼블릭 클라우드와 온프레미스를 함께 사용하는 기업에서는 서로 다른 환경을 안정적으로 연결하고 통합적으로 관리할 수 있어야 합니다. SCP는 Cloud Fabric Connect, Direct Connect, Cloud WAN 등을 통해 온프레미스와 SCP를 연결하고 네트워크 구성을 관리할 수 있도록 지원하며, SDDC(Software-Defined Data Center)를 기반으로 국내외 데이터센터 자원을 소프트웨어 방식으로 통합 운영합니다. 이를 통해 모든 워크로드를 하나의 환경으로 이전하지 않고, 성능, 보안, 네트워크 요구에 따라 실행 환경을 선택한 뒤 필요한 네트워크를 구성할 수 있습니다. 보안과 운영 관리도 별도의 영역으로 분리하기보다 클라우드 운영 과정에서 함께 적용할 수 있어야 합니다. SCP는 Config Inspection, Firewall, Key Management Service 등의 보안 서비스를 제공하며, Management 영역에서는 IAM, ID Center, Logging & Audit, ServiceWatch, Cloud Control 등을 통해 접근 권한, 사용자 활동, 자원 상태, 운영 정책을 관리할 수 있도록 지원합니다. DevOps Service는 애플리케이션의 개발, 배포, 운영과 CI/CD에 필요한 기능을 제공합니다. 계정과 권한 관리부터 네트워크 연결, 보안 정책 적용, 모니터링, 개발/배포까지 동일한 플랫폼에서 관리하면 공통 운영 기준을 각 단계에 일관되게 적용하고 반복 작업을 자동화할 수 있습니다.

기업마다 클라우드 운영에서 우선적으로 해결해야 할 과제가 다릅니다. 계정 구조와 보안 정책이 조직마다 다르다면 Cloud Control을 활용해 계정, 권한, 가드레일, 로깅 기준을 표준화하는 것부터 시작할 수 있습니다. 온프레미스와 클라우드를 함께 사용한다면 두 환경의 네트워크를 연결하고, 분산된 워크로드와 자원을 공통 기준으로 모니터링하고 운영하는 체계를 마련할 수 있습니다. 개발과 변경이 빈번한 조직이라면 DevOps를 기반으로 개발, 배포, 운영 절차를 표준화하고 반복 작업을 자동화하는 것이 우선일 수 있습니다. 이는 각 영역을 별도로 도입하는 데 그치지 않고, 계정과 권한, 네트워크, 보안, 모니터링, DevOps를 공통 정책과 관리 체계로 운영하는 것이 중요합니다. Samsung Cloud Platform은 이러한 기능을 하나의 플랫폼으로 제공함으로써, 기업이 분산된 인프라와 워크로드를 공통 운영 기준에 따라 관리할 수 있도록 지원합니다.

7. AI 시대, 클라우드의 경쟁력은 운영에서 완성된다

AI는 기업이 새로운 서비스와 기능을 개발하는 속도를 높이고 있습니다. 개발과 분석, 콘텐츠 생성뿐 아니라 업무 프로세스까지 AI로 자동화되면서 기업이 운영해야 할 AI 서비스와 에이전트가 늘고, 이를 지원하는 데이터와 기술 구성 요소도 확대되고 있습니다. 그러나 개발과 자동화의 속도가 빨라진다고 해서 IT 운영이 단순해지는 것은 아닙니다. 오히려 관리해야 할 워크로드와 기술 구성 요소, 배포와 변경 작업이 증가합니다. 이에 새롭게 만들어지는 서비스와 워크로드를 어디에 배치할지 결정하고, 공통 운영 기준과 보안 정책을 적용하며, 변경 사항을 검증하고 지속적으로 운영하는 일이 더욱 중요해지고 있습니다.

이러한 변화에 맞게 클라우드의 역할도 다시 정의할 필요가 있습니다. 초기 클라우드는 필요한 인프라를 빠르게 확보하고 수요 변화에 따라 자원을 확장하는 데 가치가 있었습니다. 그러나 클라우드 자원과 AI 서비스가 늘어나면서 핵심 과제가 인프라를 확보하는 것에서 여러 환경에 분산된 자원과 서비스를 일관된 기준으로 운영하는 것으로 이동하고 있습니다. 계정과 사용자 수가 늘어나면 계정 구조와 접근 권한, 보안 정책을 표준화해야 하고, 워크로드가 퍼블릭 클라우드와 온프레미스에 분산되면 성능, 비용, 보안 요구에 따라 실행 위치를 결정하고 공통 기준으로 모니터링하고 운영해야 합니다. 오픈소스와 AI 모델, 데이터까지 관리 대상에 포함하면 소프트웨어의 버전과 의존성, 취약점뿐 아니라 AI 모델과 데이터의 출처, 변경 사항까지 지속적으로 확인해야 합니다. AI가 개발과 배포를 가속할수록 증가하는 산출물과 변경 요청을 처리하기 위해 반복적으로 수행하는 검증, 운영, 테스트 업무를 자동화할 필요성도 커집니다.

따라서 표준 운영, 워크로드 최적화, 보안 내재화, 운영 자동화는 서로 별개의 클라우드 전략이 아닙니다. 클라우드 규모와 AI 활용이 확대되더라도 운영 기준과 품질을 유지하기 위해 필요한 운영 방식입니다. 이러한 영역을 각각 분리해 운영하지 않고, 공통 정책과 관리 체계에 따라 운영하는 것이 중요합니다. 그래야 새로운 자원과 워크로드가 추가되더라도 동일한 운영 기준을 지속적으로 적용하고 일정한 운영 품질을 유지할 수 있습니다.

결국 AI 시대에 필요한 클라우드는 단순히 많은 컴퓨팅 자원을 제공하기 위한 인프라가 아닙니다. 새로운 워크로드와 서비스가 계속 추가되고 변경되더라도, 요구 조건에 따라 적절한 환경에 배치하고 보안 정책을 적용하며, 변경 사항을 검증하고 안정적으로 운영할 수 있는 기반이어야 합니다. 이제는 인프라를 얼마나 빠르게 구축할 수 있는가보다, 증가하는 워크로드와 서비스, 배포와 변경 작업을 얼마나 안정적으로 관리하고 운영할 수 있는가가 더 중요한 경쟁력이 되고 있습니다. AI가 새로운 서비스와 기능을 만드는 속도를 높인다면, 클라우드는 그만큼 빠르게 증가하는 배포, 변경, 검증, 운영 업무를 안정적으로 처리할 수 있어야 합니다. AI 시대의 클라우드 경쟁력은 더 많은 인프라를 더 빨리 제공하는 능력이 아니라, 늘어나는 자원과 워크로드를 공통 기준으로 관리하고, 요구 조건에 맞게 배치하며, 보안을 적용하고, 반복되는 운영 업무를 자동화할 수 있는 능력에서 결정됩니다.

References

FAQ

  • AI 시대에 엔터프라이즈 클라우드를 다시 설계해야 하는 이유는 무엇인가요?

    AI 도입으로 인해 AI 에이전트, vLLM, 벡터 DB, GPU 패키지 등 기술 스택이 깊어지고 관리 대상이 급증하면서 기존의 인프라 제공 방식으로는 복잡해진 IT 환경을 안정적으로 통제하기 어렵기 때문입니다. 따라서 클라우드는 단순한 자원 제공을 넘어 기업 IT를 표준화하고 운영을 자동화하는 통합 운영체계로 진화해야 합니다.

  • 클라우드의 '표준 운영'이란 무엇이며, 이를 구현하기 위한 핵심 요소는 무엇인가요?

    표준 운영은 조직이나 시스템별로 제각각인 계정 구조, 권한, 네트워크, 보안 정책을 공통 기준으로 일관되게 적용하는 방식입니다. 이를 위해 랜딩존(Landing Zone)을 도입하여 계정 생성 시점부터 표준 정책이 자동 적용되게 하고, IaC(Infrastructure as Code)를 통해 동일한 구성을 반복적으로 적용함으로써 운영 복잡성을 낮추는 것이 핵심입니다.

  • 하이브리드 클라우드 환경에서 '워크로드 최적화'는 어떤 방식으로 이루어지나요?

    모든 워크로드를 하나의 환경에 일괄 배치하는 것이 아니라 성능, 비용, 보안, 규제 등 워크로드의 특성에 따라 퍼블릭 클라우드와 온프레미스 중 최적의 실행 환경을 결정하여 배치하는 것입니다. 이때 서로 다른 실행 환경에서도 동일한 모니터링, 운영, 보안 기준이 적용되는 통합 거버넌스를 확보하는 것이 중요합니다.

  • '보안 내재화'는 기존의 보안 점검 방식과 어떻게 다른가요?

    기존 방식이 시스템 구축 후 취약점을 점검하고 보완하는 사후 조치 중심이었다면, 보안 내재화는 기술 선정 단계부터 구축, 변경, 운영에 이르는 전 과정에 보안 기준과 검증 절차를 적용하는 것입니다. 특히 AI 시대에는 소프트웨어 취약점뿐 아니라 모델 가중치의 악성코드나 RAG 데이터 오염까지 지속적으로 관리하는 체계로 확장됩니다.

  • AI 시대에 '운영 자동화'의 범위가 구축과 배포를 넘어 확대되어야 하는 이유는 무엇인가요?

    AI가 개발과 산출물 생성 속도를 획기적으로 높이면서, 사람이 이를 검증하고 테스트하며 운영하는 과정에서 새로운 병목 현상이 발생하기 때문입니다. 따라서 단순한 구축/배포 자동화를 넘어 산출물 검증, 서비스 운영, 테스트 케이스 갱신까지 자동화 범위를 확대해야 AI 서비스의 증가 속도에 맞춰 안정적인 관리가 가능합니다.

  • 삼성클라우드플랫폼(SCP)은 기업의 통합 운영체계 구축을 어떻게 지원하나요?

    SCP는 컴퓨팅, 스토리지 등 기본 자원 제공은 물론, Cloud Control을 통해 랜딩존 구성, 조직 및 계정 구조 정의, 가드레일 및 로깅 설정을 자동화하여 표준 운영을 지원합니다. 또한 하이브리드 연결 서비스와 DevOps 툴, 통합 관리 기능을 제공하여 분산된 인프라와 워크로드를 하나의 플랫폼에서 일관된 기준으로 관리할 수 있게 합니다.

저자

삼성SDS 전략마케팅팀 Corporate Strategy & Business Development, and Customer Success Lead

CONTACT US

무엇이든 물어보세요.

AI 도입부터 최적화까지, 맞춤형 솔루션을 제안해 드립니다.

문의하기

공유하기