ChatGPT·Gemini·Claude는 왜 기업 안에서 ‘전용 AI’가 되는가 - Agentic Workforce의 부상

2026-04-08 최성철

기업 AI, ‘범용 AI’에서 ‘전용 AI’로: ChatGPT, Gemini 등 범용 AI가 기업 환경에 맞춰 재구성되며 ‘전용 AI’로 진화하고 있습니다.
Agentic Workforce의 부상: AI는 단순 응답 도구를 넘어 실제 업무를 수행하는 실행 주체로, 인간과 협력하여 업무 효율성을 극대화하는 ‘Agentic Workforce’가 부상하고 있습니다.
삼성SDS, AI Full-Stack으로 기업 디지털 전환 가속화: AI 인프라, AI 플랫폼, AI 솔루션을 통합 제공하는 AI Full-Stack으로 기업의 디지털 전환을 지원하며, AI 경쟁력 강화에 기여합니다.

ChatGPT, Gemini, Claude와 같은 범용 AI는 누구나 쉽게 사용할 수 있습니다. 하지만 기업에 도입되면, 이러한 AI는 기업의 환경에 맞춰 변화하며, 기존과 동일하게 작동하지 않습니다. 기업의 보안 정책, 데이터, 권한 체계, 협업 환경, 업무 프로세스 등 기업 환경에 맞춰 AI가 재구성되어, 기업 고유의 ‘전용 AI’로 변화합니다. 이러한 변화의 핵심은 새로운 AI 모델을 개발하는 데 있지 않습니다. 이미 검증된 범용 AI를 조직의 운영 체계 위에 얼마나 정교하게 연결하고 내재화하느냐에 달려 있습니다.

지금까지 많은 기업은 “어떤 AI 모델을 도입할 것인가”에 집중해 왔습니다. 물론 모델 성능은 중요하지만, 앞으로의 경쟁력은 모델 자체보다, 그 모델을 조직의 일하는 방식 속에 얼마나 깊고 안정적으로 연결했는가에 따라 결정될 가능성이 높습니다. AI가 실제 성과를 내기 위해서는 단순히 데이터를 잘 생성하는 것만으로는 충분하지 않습니다. 조직의 데이터에 접근할 수 있어야 하고, 보안 및 권한 정책을 준수하며, 협업 도구와 연결되어 궁극적으로는 업무 실행으로 이어져야 합니다.

최근 섹타나인과 하나투어의 ChatGPT Enterprise 도입 사례는 이러한 변화를 잘 보여줍니다. 두 기업은 AI를 개인의 생산성 도구로 제한하지 않고, 조직 차원의 업무 인프라로 도입했습니다. 이는 단순한 AI 활용을 넘어, AI를 보안과 관리 체계 안에 내재화하고 실제 업무 흐름과 연결하여 조직 전체가 활용하는 실행 기반으로 전환한 사례입니다. 기업용 AI의 가치는 “답을 잘하는가”에서 “일을 끝까지 수행할 수 있는가”로 이동하고 있음을 보여줍니다.

이러한 변화의 중심에는 Agentic Workforce라는 개념이 있습니다. 이는 단순히 AI를 도입하는 것을 넘어, AI를 기업의 업무 방식에 맞춰 ‘맞춤형 AI’로 변화시키고, 인간과 AI가 각자의 강점을 살려 협력하는 새로운 업무 체계를 구축하는 것을 의미합니다. Agentic Workforce를 성공적으로 구축한 기업은 AI 기술 자체의 우수성뿐만 아니라, 이 기술을 조직의 일하는 방식에 얼마나 깊이 뿌리내리게 했는지에 따라 경쟁력을 확보하게 될 것입니다.

Agentic Workforce란 무엇이며, 왜 중요한가?

Deloitte와 ServiceNow에 따르면, Agentic Workforce는 인간과 AI 에이전트가 하나의 업무 체계 안에서 역할을 분담하고 함께 일하는 구조를 의미합니다. AI는 단순히 질문에 응답하는 도구가 아닙니다. 맥락을 이해하고 필요한 정보를 찾아 여러 시스템을 연결하여 실제 업무를 수행하는 실행 주체입니다. 반면, 사람은 목표 설정, 판단, 승인, 책임, 조율과 같은 고차원적 역할을 맡습니다.

이 개념이 중요한 이유는 기업이 더 이상 AI를 “잘 답하는 모델”로만 평가하지 않기 때문입니다. 이제 기업은 AI를 조직의 맥락을 이해하고, 필요한 시스템과 연동되며, 실제 업무를 수행할 수 있는 존재로 보기 시작했습니다. 과거에는 AI 모델의 정확도가 중요했지만, 현재는 실제 업무 성과 향상에 기여하는 정도가 더 중요해지고 있습니다.

범용 AI는 누구에게나 비슷하게 작동하지만, 기업 내부에서는 전제가 완전히 달라집니다. AI는 조직의 문서와 데이터에 접근해야 하고, 보안 및 권한 정책을 따라야 하며, 협업 환경 속에서 정해진 맥락에 맞춰 작동해야 합니다. 더 나아가 필요할 경우 내부 시스템을 호출하고 실제 프로세스까지 수행할 수 있어야 합니다. 이때 범용 AI는 더 이상 ‘누구에게나 같은 도구’가 아닙니다. 기업의 규칙, 데이터, 승인 체계, 일하는 방식과 결합하면서 조직 고유의 맥락을 반영하는 실행 체계로 전환됩니다.

따라서 기업 전용 AI는 독자 모델이라기보다는, 범용 AI를 기업 운영 체계와 결합하여 조직 특화된 실행 주체로 재구성한 결과물입니다. 그런 점에서 Agentic Workforce는 인간과 AI가 함께 일하는 새로운 노동 구조이자, 범용 AI를 기업 경쟁력으로 전환하는 운영 모델이라고 할 수 있습니다. 오늘날의 경쟁은 AI의 언어 능력이 아니라, AI를 조직에 얼마나 안전하고 유기적으로 심을 수 있는가에 달려 있습니다.

AI Full-Stack: Agentic Workforce를 위한 필수 조건

Agentic Workforce가 실제 기업 환경에서 작동하려면, 모델 하나만으로는 충분하지 않습니다. AI는 조직의 문서와 데이터를 이해해야 하고, 보안과 권한 정책을 준수해야 하며, 협업 플랫폼 안에서 자연스럽게 호출되어야 합니다. 나아가 필요할 경우 내부 시스템과 연동되어 조회, 승인, 실행, 자동화로 이어질 수 있어야 합니다. 즉, 기업 AI는 단일 솔루션으로는 구현될 수 없습니다. AI 인프라, 데이터, 보안, 거버넌스, 플랫폼, 협업, 자동화 등 모든 요소가 유기적으로 연결되어야 AI가 실제 업무를 수행할 수 있습니다.

초기에는 회의록 요약이나 문서 초안 작성처럼 비교적 단순한 통합만으로도 일정 수준의 성과를 낼 수 있습니다. 그러나 AI가 승인 흐름을 이해하고, 내부 시스템에서 정보를 조회하며, 고객 응대나 운영 업무 일부를 수행하기 시작하면, 모델 성능보다 데이터 연결성, 시스템 연계성, 보안 통제력, 실행 안정성이 훨씬 더 중요해집니다. 이때부터 AI는 보조 도구가 아니라 운영 체계의 일부가 됩니다.

Agentic Workforce를 성공적으로 구축하려면 AI Full-Stack이 필수적입니다. 마치 자동차가 엔진 없이는 움직일 수 없는 것처럼, AI Full-Stack 없이는 Agentic Workforce도 제대로 작동할 수 없습니다.

삼성SDS는 AI Full-Stack을 어떻게 구현하고 있는가?

삼성SDS는 AI Full-Stack 관점으로 접근하여, ‘AI 인프라’, ‘AI 플랫폼’, ‘AI 솔루션’을 유기적으로 연결하고 기업에 필요한 모든 것을 제공합니다. 이는 단순히 개별 제품을 판매하는 것이 아니라, AI를 기업의 운영 체계에 통합하는 것을 의미합니다.

예를 들어, 고객 문의를 처리하는 AI 에이전트를 구축한다고 가정해 보겠습니다.

AI 인프라: 고성능 GPU 서버와 안정적인 데이터 저장소를 제공하여 AI 에이전트가 고객 문의를 빠르게 분석하고 처리할 수 있도록 지원합니다.
AI 플랫폼: 기업 내 다양한 시스템(CRM, ERP 등)과 AI 에이전트를 연결하고, 필요한 데이터를 안전하게 공유할 수 있도록 합니다.
AI 솔루션: AI 에이전트가 고객 문의 내용을 요약하고 적절한 답변을 제시하며, 필요한 경우 담당자에게 연결하는 기능을 제공합니다. 또한 고객 문의 접수부터 답변 작성, 담당자 연결까지 모든 과정을 자동화하여 업무 효율성을 극대화합니다.

이처럼 삼성SDS의 AI Full-Stack은 각 구성 요소가 긴밀하게 연결되어 작동하며, 기업 AI가 실제 업무에 적용될 수 있도록 지원합니다.

삼성SDS AI Full-Stack 아키텍처 (출처: 삼성SDS)

AI 인프라

삼성SDS는 검증된 AI Value Chain을 기반으로 AI 서비스 확장을 위한 고성능 AI 데이터센터를 구축하고 운영하며, 시장을 선도하고 있습니다.

기업 맞춤 클라우드 플랫폼: 삼성 클라우드 플랫폼을 기반으로 기업의 요구사항에 최적화된 환경을 제공합니다.
고성능 GPU: 생성형 AI 활용에 최적화된 고성능 GPU를 사용하여 빠른 연산 속도와 효율성을 보장합니다.
올인원 매니지드 서비스: 40년 이상의 업종 경험과 글로벌 파트너십을 바탕으로 AI 컨설팅, 전환, 매니지드 서비스를 통합적으로 제공합니다.

AI 플랫폼

삼성SDS는 기업 시스템과 멀티 LLM(Large Language Model)을 연계하여 AI 에이전트를 제작, 공유, 활용을 지원하는 플랫폼을 제공합니다. 이를 통해 기업은 자체적으로 AI 에이전트를 구축하고 업무 효율성을 향상할 수 있습니다.

FabriX는 기업용 AI 에이전트 플랫폼으로, 기업의 다양한 시스템과 데이터를 연결하여 AI 에이전트를 쉽게 구축하고 운영할 수 있도록 지원합니다. 마치 레고 블록처럼, FabriX를 통해 기업은 자신에게 필요한 AI 에이전트를 맞춤형으로 조립할 수 있습니다.

AI 솔루션

삼성SDS의 AI 솔루션은 단순한 코파일럿 기능을 넘어, 사용자의 개입을 최소화하고 업무를 자율적으로 완수하는 ‘나만의 업무 비서, Personal Agent’로 진화하고 있습니다.

Agentic AI 연계: 기업 업무의 시작부터 마무리까지 끊김 없는 자동화를 지원합니다.
빠르고 개인화된 업무 경험: 사용자에게 최적화된 맞춤형 업무 환경을 제공하여 생산성을 높입니다.

Brity Works는 메일, 메신저, 미팅, 드라이브 등을 포괄하는 협업 환경을 제공하고, Brity Copilot은 이 협업 환경 안에서 회의록 작성, 요약, 문서 초안, 번역 등 생성형 AI 기능을 지원합니다. Brity Automation은 AI가 단순히 정보를 제공하는 수준을 넘어, 실제 업무를 자동화하여 실행할 수 있도록 지원합니다.

정리해 보면, FabriX에서 AI 에이전트를 구축하고, Brity Works에서 임직원들이 그 에이전트를 활용하여 업무를 처리하며, Brity Automation이 그 과정을 자동화하여 효율성을 높일 수 있습니다. 삼성SDS는 AI 인프라, 플랫폼, 솔루션 전반에 걸쳐 강력한 역량을 보유하고 있으며, 기업의 디지털 전환을 위한 핵심 파트너로서 자리매김하고 있습니다.

결론

ChatGPT, Gemini, Claude와 같은 범용 AI가 기업 안에서 전용 AI처럼 작동하기 시작한 이유는 모델이 달라졌기 때문이 아닙니다. 더 본질적인 이유는 기업이 AI를 단순한 보조 도구가 아니라 실제 업무 수행 체계의 일부로 내재화하기 시작했기 때문입니다. 결국, 기업 경쟁력의 핵심은 Agentic Workforce를 얼마나 효과적으로 구축하고 운영하는가에 달려 있습니다. 단순히 AI를 도입하는 데 그치지 않고, AI를 조직의 운영 체계 안에 내재화하여 업무 효율성을 극대화하고, 새로운 가치를 창출하는 기업만이 미래 시장에서 성공할 수 있을 것입니다.

앞으로 기업 간 차이는 어떤 AI를 도입했는가보다, 이 AI를 조직의 일하는 방식 속에 얼마나 깊고 안정적으로 뿌리내리게 했는가에서 더 분명해질 것입니다. 이제 경영진이 던져야 할 질문도 달라져야 합니다. “어떤 AI가 가장 뛰어난가”가 아니라, “우리 조직은 AI를 안전하고 효과적으로 활용할 준비가 되어 있는가”를 질문해야 합니다. 이 질문에 답할 수 있는 기업만이 범용 AI를 실질적인 기업 경쟁력으로 전환할 수 있을 것입니다.

References

[1] https://www.tanayj.com/p/the-rise-of-the-agentic-workforce
[2] https://www.deloitte.com/global/en/services/consulting/perspectives/human-agentic-workforce.html
[3] https://www.servicenow.com/kr/company/media/press-room/agentic-workforce-management.html
[4] https://blog.getaura.ai/agentic-ai
[5] https://help.openai.com/en/articles/12628342-company-knowledge-in-chatgpt-business-enterprise-and-edu
[6] https://openai.com/index/more-ways-to-work-with-your-team/
[7] https://cloud.google.com/gemini-enterprise
[8] https://claude.com/blog/claude-for-enterprise
[9] https://www.samsungsds.com/kr/news/ces-260108.html

FAQ

Q. 범용 AI와 기업 전용 AI의 차이점은 무엇인가요?

A. 범용 AI는 누구나 사용할 수 있도록 일반적인 목적을 위해 개발된 AI 모델입니다. 반면, 기업 전용 AI는 기업의 특정 환경(보안 정책, 데이터, 업무 프로세스 등)에 맞춰 재구성된 AI로, 기업 고유의 문제를 해결하고 업무 효율성을 높이는 데 특화되어 있습니다.

Q. Agentic Workforce란 무엇이며, 왜 중요한가요?

A. Agentic Workforce는 인간과 AI 에이전트가 하나의 업무 체계 안에서 역할을 분담하고 협력하는 구조입니다. AI는 단순한 도구가 아닌 실제 업무를 수행하는 실행 주체가 되며, 인간은 목표 설정, 판단 등 고차원적인 역할을 담당합니다. 기업은 AI를 단순한 ‘답을 잘하는 모델’이 아닌 ‘일을 수행할 수 있는 존재’로 평가하며, Agentic Workforce 구축을 통해 경쟁력을 확보할 수 있습니다.

Q. AI Full-Stack이란 무엇이며, Agentic Workforce 구축에 왜 필요한가요?

A. AI Full-Stack은 AI 인프라, 데이터, 보안, 거버넌스, 플랫폼, 협업, 자동화 등 AI를 운영하기 위한 모든 요소를 유기적으로 연결한 것을 의미합니다. Agentic Workforce가 실제 기업 환경에서 작동하려면 단순히 AI 모델만으로는 충분하지 않으며, AI Full-Stack을 통해 데이터 연결성, 시스템 연계성, 보안 통제력, 실행 안정성을 확보해야 합니다.

Q. 삼성SDS는 AI Full-Stack을 어떻게 구현하고 있나요?

A. 삼성SDS는 ‘AI 인프라’, ‘AI 플랫폼’, ‘AI 솔루션’을 유기적으로 연결하여 기업에 필요한 모든 것을 제공합니다. AI 인프라는 고성능 GPU 서버와 안정적인 데이터 저장소를 제공하고, AI 플랫폼은 기업 시스템과 멀티 LLM을 연계하여 AI 에이전트 구축을 지원하며, AI 솔루션은 사용자에게 맞춤형 업무 환경을 제공하고 업무 자동화를 지원합니다.

Q. AI 도입 시 가장 중요한 것은 무엇인가요?

A. AI 모델의 성능도 중요하지만, 앞으로의 경쟁력은 AI를 조직의 일하는 방식 속에 얼마나 깊고 안정적으로 연결했는지에 따라 결정될 가능성이 높습니다. AI가 실제 성과를 내기 위해서는 조직의 데이터에 접근할 수 있어야 하고, 보안 및 권한 정책을 준수하며, 협업 도구와 연결되어 업무 실행으로 이어져야 합니다.

Q. AI 도입을 통해 얻을 수 있는 가장 큰 이점은 무엇인가요?

A. AI 도입을 통해 업무 효율성을 극대화하고 새로운 가치를 창출할 수 있습니다. AI는 단순 반복적인 업무를 자동화하고, 데이터 분석을 통해 의사 결정을 지원하며, 고객 응대 등 다양한 분야에서 활용될 수 있습니다. 궁극적으로 기업의 생산성 향상과 경쟁력 강화에 기여할 수 있습니다.

Q. 앞으로 기업의 AI 활용은 어떻게 변화할 것으로 예상되나요?

A. 앞으로 기업들은 AI를 단순한 보조 도구가 아닌 실제 업무 수행 체계의 일부로 내재화하는 방향으로 나아갈 것입니다. AI Full-Stack을 통해 AI를 조직의 운영 체계 안에 통합하고, Agentic Workforce를 구축하여 인간과 AI가 협력하는 새로운 업무 환경을 조성할 것으로 예상됩니다.

이 글이 좋으셨다면 구독&좋아요

여러분의 “구독”과 “좋아요”는
저자에게 큰 힘이 됩니다.

최성철 IT트렌드 전문가

삼성SDS 전략마케팅팀

Corporate Strategy & Business Development, and Customer Success Lead