버티컬 AI 에이전트, 산업을 혁신하는 특화 AI 시대 (1) 성장 동인과 시장 트렌드

버티컬 AI 에이전트의 시장 동향을 다룬 해당 아티클은 1, 2편으로 나누어 게재됩니다.

최근 마이크로소프트나 엔비디아 등 AI 선도 기업들은 '에이전틱 AI(Agentic AI)' 시대라고 선언하고 있습니다. 일반적으로 특정 업무에 최적화되어 단독으로 작업을 수행하는 것을 'AI 에이전트'라고 하며, 여러 에이전트를 조합하여 상황에 따라 전략을 바꾸며 팀처럼 작동하는 것을 '에이전틱 AI'라고 정의합니다. 영화 '아이언맨'에서 주인공 '토니 스타크'를 도와 복잡한 업무를 해결해 주는 AI '자비스'가 바로 AI 에이전트의 대표적인 예입니다.

AI 에이전트는 인간의 개입 없이 스스로 작업을 수행하는 소프트웨어로, 특정 분야 또는 업무에 특화되어 사람처럼 환경을 인식하고, 학습하며, 결정을 내리고 행동할 수 있도록 설계됩니다. 이러한 AI 에이전트는 오픈AI가 'ChatGPT Pro' 구독자를 대상으로 ‘오퍼레이터(Operator)’를 출시하면서 그 시대의 포문을 열었습니다. 오퍼레이터는 그래픽 사용자 인터페이스(GUI)와 상호작용하도록 훈련되어, 자연어 명령만으로 실제 웹 브라우저를 조작해 항공편이나 레스토랑 예약, 온라인 쇼핑 등 다양한 작업을 자동화합니다. 아직까지는 복잡한 작업 처리나 비표준 웹 인터페이스와의 상호작용에는 한계가 있지만, 기술 발전을 통해 단순 반복 업무를 넘어 복잡한 의사결정 분야까지 적용될 전망입니다. ^[1]

많은 기업들이 이러한 AI 에이전트를 도입하고, 단순 '코파일럿'이 아닌 진화된 '오토파일럿' 기능을 활용해 더 복잡하고 어려운 문제를 자율적으로 해결하고자 노력하고 있습니다. AI 에이전트는 결국 지난 수십 년 동안 기업이 추구해 온 '자동화'의 진화된 형태입니다. 마케팅, 고객 지원, 리서치는 물론, 채용, 입찰, 의료비 청구까지 다양한 분야의 에이전트 서비스가 쏟아져 나오고 있으며, 특히 스타트업들은 산업에 특화된 '버티컬 AI 에이전트'에 집중하고 있습니다. 기업들 역시 이제 범용 AI의 한계를 넘어, '버티컬 AI 에이전트'를 통해 본질적인 비즈니스 혁신을 모색하고 있습니다. ChatGPT나 Claude 같은 범용 AI가 전 세계적인 주목을 받으며 AI 시대를 열었지만, 실제 비즈니스 현장에서는 ‘무엇이든 할 수 있는 AI’가 아니라 ‘특정 업무를 완벽하게 해내는 AI’를 필요로 하고 있습니다.

버티컬 AI 에이전트의 부상

버티컬 AI 에이전트는 범용 AI 에이전트와 달리 의료, 금융, 리테일 등 특정 산업의 문제를 해결하고 프로세스를 최적화하기 위해 설계된 맞춤형 AI 시스템입니다. 이는 단순히 정보를 제공하는 챗봇이나 자동화 스크립트가 아니라, 마치 '디지털 팀원'처럼 독립적으로 판단하고 행동합니다. ^[2]

(1) 버티컬 AI 에이전트의 구성요소

버티컬 AI 에이전트는 특정 산업의 워크플로우, 데이터 패턴 및 규제 사항에 맞게 '미세 조정된 대형 언어 모델(LLM)'을 기반으로 구동되며, 다음의 모듈화된 구성요소를 결합하여 기능을 강화합니다.

• 메모리(Memory): 워크플로우 및 상호작용 전반에 걸쳐 컨텍스트를 유지
• 추론 엔진(Reasoning engines): 도메인별 로직과 계획을 적용
• 인지 기술 모듈(Cognitive skills modules): 위험 분석, 문서 및 이미지 인식, 규정 준수 검사 등을 위한 특수 모델
• 도구 통합(Tool integration): 다양한 API, 데이터베이스 및 시스템 등과 연계하여 동적 의사결정 지원

이를 통해, 단순한 반복 업무의 자동화를 넘어 미션 크리티컬한 비즈니스 기능에서 능동적이고 지능적인 공동 작업자의 역할을 수행할 수 있습니다. 사용자 질의나 센서, 워크플로우를 통한 입력을 받아 과거 이력과 맥락을 참고하고, 도메인 규칙에 따라 판단·계획·실행하며, 결과를 학습하여 특정 산업에 특화된 방식으로 지속적인 성능을 개선할 수 있습니다. ^[3]

[그림 1] AI 에이전트 아키텍처 (출처: arxiv.org^[4])

LLM 에이전트의 아키텍처 및 핵심 구성 요소

(2) 버티컬 AI 에이전트의 차별성

버티컬 AI 에이전트의 발전은 필연적 결과입니다. ‘범용 AI 에이전트’는 다양한 산업에 걸쳐 광범위하게 활용할 수 있다는 장점이 있지만, 산업의 복잡한 규제나 전문 용어, 세밀한 업무 프로세스를 완벽히 이해하기 어렵다는 치명적인 한계를 가지고 있습니다. 즉, 특정 산업이나 도메인에 특화된 지식이 부족하고, 이를 활용한 수익화 전략을 수립하기도 어려운 상황입니다.

반면, ‘버티컬 AI 에이전트’는 도메인이나 기능에 특화된 심층 지식을 바탕으로 각 분야의 고유한 요구사항이나 규제, 실제 업무 흐름을 이해하여 '더 정확하고 집중적으로 문제를 해결하거나 자동화'하는 데 초점을 맞춥니다. 이는 곧 사용자에게 더 나은, 그리고 특화된 사용자 경험을 제공할 수 있습니다. 범용 AI 에이전트가 '스위스 군용 칼'과 같은 만능 도구라고 한다면, 버티컬 AI 에이전트는 '수술용 메스'와 같은 정밀한 전문 도구라고 볼 수 있습니다. ^[1][5]

[그림 2] 범용 vs. 버티컬 AI 에이전트 (출처: blog.risemoment.ai^[2])

AI 에이전트 비교

범용 AI 에이전트 VS 버티컬 AI 에이전트

• 범용 AI 에이전트 : 다양한 산업에 걸쳐 광범위한 작업에 적용
• 버티컬 AI 에이전트 : 산업별 문제 해결 및 프로세스 자동화 집중

버티컬 AI 에이전트의 핵심 차별성은 '전문성'과 '통합성'에 있습니다. 버티컬 AI 에이전트는 직접적인 API 액세스를 통해 CRM, ERP, 스케줄링 플랫폼 등에 직접 연결하여 실시간 데이터를 가져오고, 결과를 생성하며, 워크플로우를 안정적으로 실행할 수 있습니다. 또한, 내장된 비즈니스 로직을 통해 사전 정의된 규칙과 비즈니스 워크플로우 내에서 운영되어, 다른 백엔드 시스템과 마찬가지로 무엇이 유효한지, 어떤 단계를 따라야 하는지, 회사 정책에 따라 어떻게 행동해야 하는지 명확히 파악하고 있습니다. 또한, SOP(Standard Operating Procedure), 정책 문서와 같은 도메인별 지식에 기반을 두고 있으므로 관련성이 있는 컨텍스트 범위 내에서 작동하여 보다 정확하게 문제를 해결할 수 있습니다. ^[6]

[그림 3] 버티컬 AI 에이전트의 차별성 (출처: www.jiniai.biz^[7])

버티컬 AI 에이전트의 차별성

• 높은 신뢰성 - 도메인 특화 데이터와 규칙 기반 설계
• 시스템 통합 - 실제 비지니스 시스템과 직접 통합
• 안정적인 처리 - 구조화된 데이터와 워크플로우를 안정적으로 처리
• 최적화된 성능 - 특정 업무에 최저고하 되어 빠른 ROI 실현

이러한 버티컬 AI 에이전트에 대한 시장의 반응은 이미 뜨겁습니다. 대표적으로, 군사 분야 버티컬 AI 기업인 미국의 팔란티어는 최근 1년 사이에 주가가 300% 넘게 상승하며 록히드마틴, 레이시온 같은 미국 최대 방산 기업들의 시가총액을 넘어서는 놀라운 성과를 거두었습니다. ^[1]

버티컬 AI 에이전트 시장 트렌드

AI 분야는 예상보다 빠르게 진화하고 있으며, AI 에이전트는 기술 발전의 중심에 있습니다. 마켓앤마켓의 최신 시장 보고서에 따르면, AI 에이전트 시장은 2025년 78.4억 달러에서 2030년 526.2억 달러로 연평균 46.3% 성장할 것으로 전망됩니다. AI 에이전트는 더 넓은 시장에서 일반적인 AI 애플리케이션에 집중하고 있지만, 진정한 혁신은 특정 산업에 특화된 구현을 통해 비즈니스 워크플로우를 개선하고 운영 방식을 변화시키는 데 있습니다.

이메일 요약 및 일정 관리 등의 광범위한 작업을 위해 설계된 범용 AI 에이전트와 달리, 버티컬 AI 에이전트는 특정 산업의 고유한 요구 사항을 충족하도록 개발되어 보다 정확하고 실행 가능한 인사이트를 제공합니다. 예를 들어, 법률 분야에서는 문서 작성, 조사, 규정 준수 모니터링을 위해 훈련되어 변호사의 업무 부담을 크게 줄이고, 임상 정보에 대한 지식을 갖춘 의료 산업의 AI 에이전트는 HIPAA* 규정을 준수하면서 환자 분류, 진단 및 문서화를 지원할 수 있습니다. * HIPAA(Health Insurance Portability and Accountability Act): 1996년 미국에서 제정되었으며, 환자의 의료 정보를 보호하고, 의료 데이터의 기밀성과 보안을 강화하기 위해 개정됨.

버티컬 AI 에이전트는 시장 내에서 '전문 AI 도구에 대한 수요 증가' 에 힘입어 빠르게 성장할 것으로 예측되고 있습니다. 이러한 성장은 AI 에이전트가 사용자의 선호도와 기술에 맞춰 조정되는 '초개인화' 추세에 힘입어 더욱 가속화될 것입니다. 또한, 버티컬 AI 에이전트는 광범위한 수정 없이 '기존 엔터프라이즈 시스템에 원활하게 통합'될 수 있으므로 더 빠른 가치 창출을 보장하며, '독점 데이터 세트의 접근성 증가'와 '맞춤형 AI 모델 공동 개발을 목표로 하는 산업 협력의 등장'으로 그 수요는 더욱 증가하고 있습니다. ^[8]

[그림 4] 버티컬 AI 에이전트의 성장 동인 (출처: www.marketsandmarkets.com)

버티컬 AI 에이전트 성장 동인

버티컬 AI 에이전트

• 초개인화 확대
• 기존 엔터프라이즈 시스템과의 통합
• 독점 데이터 세트의 접근성 증가
• 맞춤형 AI 모델 개발을 위한 산업 협력 등장
• 전문 AI 도구에 대한 증가

미국 Y Combinator 파트너들은 이러한 "버티컬 AI 에이전트가 새로운 SaaS가 될 것"이라고 예측합니다. 지난 20년 동안 SaaS 스타트업이 엄청나게 성장했고, 이에 투자한 벤처캐피털 역시 높은 수익률을 거둔 것처럼, 버티컬 AI 에이전트에서도 비슷하거나 훨씬 더 큰 규모의 성장을 기대하고 있습니다. 베세머 벤처 파트너스는 2019년 이후 설립된 버티컬 AI 기업이 전년 대비 400% 성장하면서, 기존 버티컬 SaaS 계약 금액의 80%에 도달하고 있다고 보고하고 있습니다. 또한, 업계 전문가나 분석가들은 2-3년 내에 최소 5개의 버티컬 AI 기업이 연간 반복 매출 1억 달러 이상을 달성하고, SaaS 부문의 성공 사례처럼 300개의 버티컬 AI 유니콘 기업이 등장할 것으로 예상하고 있습니다. ^[3][9]

(1) 도메인 특화, 효용 중심의 에이전트의 확산

의료, 금융, 교육 등 특정 산업에 고도로 맞춤화된 '슈퍼 에이전트'들이 등장하고 있으며, 해당 도메인의 복잡한 워크플로우와 규제 사항에 대한 폭넓은 이해를 바탕으로 매우 정교한 작업을 수행할 수 있습니다. Google, OpenAI, Oracle 등 주요 기술 리더들 역시 자동차, 음식 주문, 고객 서비스와 같은 특정 산업을 위한 AI 에이전트를 이미 출시하고 있습니다. 사전 구축된 AI 에이전트는 즉시 배포 가능하고, 미세 조정 및 통합 프로세스를 간소화할 수 있으며, 기업들은 높은 수준의 AI 전문 지식이 없이도 쉽고 저렴하게 도메인에 적합한 AI 에이전트를 빠르게 도입할 수 있습니다. ^[10][11]

도메인 특화 에이전트는 B2B 소프트웨어 시장에서 '업무 생산성 향상'과 '비용 절감'의 핵심 도구로 자리매김하고 있습니다. 예를 들어, 이커머스 산업에 특화된 AI 에이전트는 「시장조사 → 가격 조정 → 판매 전략 반영」의 전체 워크플로우를 자동화해, 비즈니스 가치 창출을 주도할 수 있습니다. 2024년 설문조사에서 83~84%의 기업 경영진은 'AI 활용을 통해 운영 효율성과 직원 생산성을 향상할 수 있을 것'이라고 답했습니다.

[그림 5] 버티컬 AI 에이전트의 효과 (출처: EY, 대신증권 Research Center^[12])

AI 활용 시 운영 효율성이 높아질 것으로 대답한 경영진의 비율은 84%

• 운영 효율성 = Jul-24 : 77.0% / Dec-24 : 84.0%
• 직원 생산성 = Jul-24 : 76.0% / Dec-24 : 83.0%
• 기술 = Jul-24 : 74.0% / Dec-24 : 82.0%
• 사이버보안 = Jul-24 : 74.0% / Dec-24 : 81.0%
• 경쟁우위 = Jul-24 : 73.0% / Dec-24 : 80.0%
• 고객 만족도 = Jul-24 : 72.0% / Dec-24 : 75.0%
• 제품 혁신 = Jul-24 : 71.0% / Dec-24 : 78.0%

2025년 2월, 소프트뱅크는 OpenAI와의 조인트벤처 'SB OpenAI Japan' 설립을 발표하며, 일본 내 기업에 AI 에이전트를 선도적으로 도입하기 위한 '크리스탈 인텔리전스' 프로젝트에 착수했습니다. 이 프로젝트는 AI 에이전트가 기업 내부 시스템에 본격 도입되는 전환점을 보여주며, 통신, 금융 서비스, 물류 및 공급망 관리 등 산업별 도메인 데이터를 활용해 업무 생산성을 높이는 AI 에이전트를 실제 개발하는 대표적인 사례로 꼽힙니다. ^[12]

(2) 멀티모달과 결합, 문제 해결의 핵심

2025년 주목받는 AI 트렌드 중 하나는 멀티모달 AI와 버티컬 AI의 결합입니다. 실제 산업 환경에서는 텍스트, 이미지, 음성 등 다양한 형태의 데이터가 존재하기 때문에 멀티모달 처리 능력은 필수적입니다. 예를 들어, 자율주행 분야에서는 카메라, 레이더, 라이다(LiDAR), 음성, 로그 등의 데이터가 수집되고, 로봇도 센서값부터 위치 정보까지 다양한 형태의 데이터를 다룹니다. ^[13]

[그림 6] 멀티모달 에이전트 아키텍처 (출처: aws.amazon.com^[14])

Architecture Pattern : Multi-modal Agent

User → question → Multi-modal Agent ←→ Agent memory / Foundation model ←→ Agent tools (text processing, computation, sentiment analysis, audio processing, visuals, customized intelligent search) ←→ Data storage(Multi-modal data)(tabular, audio, instructured text, pdf files)

이처럼 여러 형태의 데이터를 동시에 처리할 수 있는 능력은 각 산업의 복잡한 요구사항을 충족시키는 데 큰 역할을 합니다. 나아가, 풍부하고 직관적인 상호작용을 통해 문제 해결 및 의사결정 지원을 위한 강력한 도구가 됩니다. 예를 들어, 의료 AI 에이전트는 환자의 진료 기록, X-ray·MRI 이미지, 의사-환자 대화 등 다양한 데이터를 통합적으로 분석해 훨씬 더 정확하고 신뢰도 높은 진단과 판단을 내릴 수 있습니다. 고객 상담 AI 에이전트의 경우, 음성(말투·억양), 채팅 텍스트, 영상(표정)을 함께 분석하여 고객의 감정이나 의도를 더 정확히 파악하고, 복합적인 맥락을 인식해 실제 업무에서 정교하게 자동화 서비스를 제공할 수 있습니다. ^[10]

이렇게 멀티모달은 인간이 여러 감각을 동시에 활용하여 상황을 판단하는 방식을 모방합니다. 이로 인해, 버티컬 AI 에이전트는 인간 전문가처럼 특정 산업의 복잡한 상황을 다각도로 해석하고, 예외 상황이나 비정형 문제에도 유연하게 대응할 수 있습니다.

(3) 외부 도구 연동 강화, 실시간 데이터 및 시스템 통합

산업 현장에서는 ERP, MES, SCM 등 다양한 시스템과 수많은 센서 및 설비 등에서 데이터가 끊임없이 생성되고 있습니다. 이러한 기업 환경에서 다양한 시스템, API, IoT 센서, 외부 데이터베이스 등과의 직접 연동을 가능하게 하는 ‘도구 통합(Tool Integration)' 기능은 실시간 데이터 수집·분석, 워크플로우 트리거, 복잡한 업무의 자동화, 그리고 동적 의사결정 지원에 있어 핵심적인 역할을 합니다. ^[6][15]

예를 들어, 의료 분야의 AI 에이전트는 환자 진료 기록을 EHR 시스템에서 참조해 분석한 후 자동으로 차트를 작성할 수 있습니다. 제조업의 AI 에이전트는 설비 센서 데이터를 분석해 이상 징후를 감지하면 즉시 알람을 전송하고, 필요시 설비를 제어합니다. 또한, 물리적 산업에서 버티컬 에이전트는 IoT 및 엣지 장치와 통합되어 작물 모니터링, 질병 감지, 물류 및 공급망 운영 등 다양한 영역을 자동화할 수 있습니다. ^[3][15]

[그림 7] 업종별 도구 통합 예시 (참고: www.turing.com^[3])

도구 통합(Tool Integration) 예시

특성	의료	제조	금융	법률
연계 대상	EMR,PACS,보험 청구 시스템	MES,IoT 센서,ERP	거래 시스템, 신용 평가, 리스크 관리 도구	문서 관리, 규정 데이터 베이스, 이메일 시스템
자동화	진단,문서화,청구	설비 관리, 예지 보수, 생산 계획	실시간 사기 탐지, 평가	계약 분석, 보고서

(4) 멀티 에이전트 시스템으로 진화

버티컬 AI 에이전트의 진정한 힘은 여러 전문 에이전트가 협력하여 복잡한 문제를 해결하고 엔드투엔드(End-to-End) AI 워크플로우 자동화를 실현하는 '멀티 에이전트 시스템(Multi-Agent System, MAS)'에 있습니다. [10][11] 멀티 에이전트 시스템은 여러 개의 지능형 에이전트가 상호작용하며 공통의 목표를 달성하거나 개별적인 목표를 추구하는 구조를 말합니다. 각 에이전트는 자율적으로 행동하면서, 다른 에이전트와 협력하거나 경쟁하며 문제를 해결합니다. 버티컬 AI 에이전트 관점에서 멀티 에이전트 시스템이란, 특정 산업이나 도메인에 특화된 전문 에이전트들이 협업해 비즈니스 프로세스를 자동화하고 최적화하는 시스템을 의미합니다.

예를 들어, 제조업 설비 관리에서는 '이상 탐지 에이전트', '검색 에이전트', '분석 에이전트', '제어 에이전트'가 각각의 역할을 맡아 전체 워크플로우를 자동화할 수 있습니다. 먼저, '이상 탐지 에이전트'가 장비의 이상을 사전에 탐지합니다. 이후, '검색 에이전트'가 유사 사례와 데이터를 찾아 원인을 파악합니다. 원인을 알았으니 해결책을 찾아야 합니다. '분석 에이전트'는 설비 데이터, 로봇 조치 기록, 매뉴얼 등 다양한 정보를 분석해 해결 방안을 제공합니다. 이러한 데이터 통합 분석은 기존 AI 기술로는 어려웠지만, LLM을 통해 하나의 통합된 인터페이스에서 손쉽게 처리할 수 있습니다. 마지막으로, '제어 에이전트'가 분석 결과를 바탕으로 문제를 해결할 수 있는 코드를 생성하고 장비를 제어합니다. 이처럼, 특정 수준 이상의 알람 발생 시에 작업자가 직접 수행하던 -설비 정지나 가동 속도 조정 등의- 작업을 버티컬 AI 에이전트가 자동으로 처리할 수 있습니다. ^[15]

[그림 8] 버티컬 AI 에이전트 협업 시나리오 (출처: www.makinarocks.ai^[15])

Vertical AI Agent 활용 시나리오

User → Industrial LLM

AI 플랫폼

Industrial LLM - Anomaly Detection AI

Industrial LLM - 검색 Agent - 원인

Industrial LLM - 분석 Agent - 해결책

Industrial LLM - 제어 Agent - 코드 생성 → (기존) 제어시스템

멀티 에이전트 시스템의 핵심 구성 요소는 ‘대형 언어 모델(LLMs)', '에이전트(Agents)', '도구(Tools)', '프로세스(Flow)'입니다. ^[17]

• 대형 언어 모델(LLMs): 멀티 에이전트 시스템의 지적 핵심 역할을 하며, 에이전트에게 고도화된 추론 및 의사결정 능력을 제공
• 에이전트(Agents): 각자 고유한 능력과 목표를 가진 자율적 개체로, LLM을 추론 엔진으로 활용해 특정 작업을 수행하고 협력함
• 도구(Tools): API 호출, 웹 검색, 데이터 검색 등 에이전트의 기능을 확장하고 외부 세계와 상호작용하며, 특정 작업을 보다 효율적으로 수행하도록 하는 전문화된 기능
• 프로세스(Flow): 협업 오케스트레이션의 역할을 수행. 작업을 구성하고 상호작용하는 방식을 정의하며, 작업의 순서와 조정을 통해 전체 목표에 부합하도록 효율적인 시스템 운영

이러한 멀티 에이전트 시스템은 '컴포넌트(에이전트)-컨테이너(환경)' 아키텍처 모델로 ‘개념화'할 수 있습니다. ‘에이전트'는 공동의 목표를 위해 다른 에이전트와 상호작용하는 개별 에이전트 자체를 말합니다. '환경'은 에이전트 간의 상호작용과 협업을 위한 필수 서비스를 제공합니다. 에이전트는 환경 내에서 다른 에이전트를 찾고 식별할 수 있고, 커뮤니케이션을 설정할 수 있습니다. 또한, 에이전트가 메시지와 데이터를 교환할 수 있는 프로토콜과 메커니즘을 제공하여, 명령 보내기, 정보 공유, 작업 조정과 같은 다양한 형태의 상호작용을 지원합니다. 마지막으로, 에이전트 간의 상호작용을 관리하고 활동을 동기화하여 공통의 목표를 위해 작동하도록 합니다. ^[18]

[그림 9] 멀티 에이전트 시스템 작동 방식 (출처: www.leewayhertz.com^[18])

Environment/Container

Agent/Component

Search Agent → Agent Interation → Extraction & Analytic Agent → Agent Interation → Decision Making Agent → Output (Accurate Decision Making)

멀티 에이전트 시스템은 단일 에이전트와는 달리, 환경 내의 모든 에이전트가 서로의 목표, 기억, 행동 계획을 모델링하는데 참여합니다. 에이전트 간의 커뮤니케이션은 공유 환경을 변경하여 직접 또는 간접적으로 이루어질 수 있습니다. 멀티 에이전트 시스템의 핵심은 '에이전트 커뮤니케이션'과 '분산된 문제 해결'에 있습니다. 이러한 에이전트의 상호작용은 '다중 에이전트 강화 학습'으로 설명할 수 있습니다. 학습을 통해 공유하는 정보에는 센서나 행동을 통해 획득한 즉각적인 정보가 포함될 수 있으며, 에이전트는 자신의 경험을 실시간으로 공유하여 다른 에이전트들이 동일한 정책을 반복적으로 학습하는 것을 방지할 수 있습니다. 멀티 에이전트 시스템의 집단적 행동은 정확성, 적응성 및 확장성의 잠재력을 높이며, 공유 리소스 풀, 최적화 및 자동화를 통해 대체로 단일 에이전트 시스템보다 뛰어난 성능을 보입니다. ^[16]

멀티 에이전트 시스템은 다양한 아키텍처로 작동할 수 있으며, 크게 '중앙 집중형' 및 '분산형' 네트워크로 구분됩니다. ^[16][19]

• 중앙집중형 네트워크: 마스터 에이전트나 제어 허브가 전체 에이전트 활동을 관리·조정합니다. 중앙장치가 글로벌 지식 기반을 포함하고, 에이전트를 연결하며, 에이전트의 정보를 감독합니다. 해당 방식은 전체 프로세스와 시스템을 추론하여 에이전트 간의 커뮤니케이션이 용이하고, 정보를 표준화할 수 있습니다. 그러나, 중앙장치 장애 시 전체 에이전트 시스템이 영향을 받는 단점이 있습니다.
• 분산형 네트워크: 탈중앙화로 에이전트 간에 직접적인 상호작용을 제어합니다. 해당 시스템은 글로벌 지식 기반 대신 인접 에이전트와 정보를 공유하며, AI 에이전트들은 각자가 달성하려는 것에 대한 공통된 이해와 공동 책임을 갖습니다. 중앙집중형 네트워크보다 더 강력하고 확장 가능하지만, 다른 협력 에이전트에 이익이 되도록 자신의 행동을 조정하는 등 더욱 복잡한 조율이 필요합니다.

[그림 10] 단일 vs. 멀티 에이전트(중앙집중형/분산형) 비교 (출처: www.ibm.com [20])

Single agent architecture

Mulit agent architecture

Vertical architecture

Horizontal architecture

(5) 맞춤형 개인화 서비스 확대

기업들이 범용 AI에서 벗어나 고객별 특성과 요구에 맞춘 초개인화(Hyper-Personalization) 서비스로 전환하면서, 버티컬 AI 에이전트의 핵심 동력이 되고 있습니다. IBM은 AI 발전이 개인화된 고객 경험으로 이어지고 있으며, 기업들은 AI를 활용해 개인의 선호도에 따라 상호작용과 서비스를 맞춤화하고 있다고 강조합니다.

초개인화는 단순히 고객의 이름을 부르거나 과거 구매 이력을 보여주는 수준을 넘어 개인의 선호도, 행동 패턴, 상황적 맥락을 종합적으로 분석하여 실시간으로 맞춤형 경험을 제공하는 것을 의미합니다. 리테일, 의료, 금융 등의 업계에서는 고객 참여를 강화하고 충성도를 높이기 위해 초개인화를 도입하고 있습니다. 개인화된 쇼핑 여정부터 맞춤형 금융 가이드까지 모든 디지털 상호작용은 고유한 기능을 갖추게 되었고, 개인화는 앞으로 더욱 확대될 것입니다. [21]

버티컬 AI 에이전트의 기술 발전은 개인화 서비스를 고도화하고 있습니다. 텍스트와 음성을 넘어 제스처까지 이해하는 멀티모달 상호작용이 가능해짐에 따라, 고객의 혼란스러운 표정까지 인식해 그에 맞는 응답을 제공하는 등 인간적인 대화가 실현될 것입니다. 또한, IoT와의 통합으로 상황 인식 능력이 확대되면, 스마트 냉장고와 대화하면서 보증 문제를 해결하거나, 고객 지원 통화 중에 온도를 자동으로 조정하는 등의 연결성을 구현할 것입니다. 이는 개인화 서비스가 단순한 정보 제공을 넘어 실제 생활 환경까지 최적화하는 수준으로 발전함을 의미합니다. 또한, 에이전트는 고도화된 분석 기능을 통해 고객의 선호도를 속속들이 파악해, 마치 초능력처럼 고객이 요청하기 전에 필요한 서비스나 제품을 미리 제안하는 예측적 개인화 서비스로 진화하고 있습니다. ^[22]

(6) 플랫폼화 및 오케스트레이션 발전

기업은 개별 AI 에이전트를 독립적으로 개발하는 단계를 넘어, 플랫폼을 기반으로 다양한 AI 모델과 데이터를 통합하여 AI 에이전트를 구축하고 관리·운영하는 방향으로 발전하고 있습니다. 이러한 플랫폼은 도메인 특화 데이터와 워크플로우를 효율적으로 통합할 수 있는 개발 환경을 제공하며, 그 핵심에는 '오케스트레이션'이 있습니다.

오케스트레이션은 개별 AI 에이전트의 작업을 조정하고, 작업 순서를 관리하며, 전체 운영을 최적화합니다. 이를 통해 각 에이전트가 특화된 역할을 수행하면서도, 로봇, 사람 및 모델과 유기적으로 협력할 수 있습니다. 유아이패스 대표는 "오케스트레이션 없이는 AI 에이전트도 없다."라며 오케스트레이션의 역할을 강조했으며, 멀티 에이전트 시스템이 더욱 복잡한 형태로 발전함에 따라 오케스트레이션 기술 역시 빠르게 진화하고 있습니다.

AI 에이전트 구축·운영을 위한 AI 에이전트 플랫폼은 오픈소스와 상용 옵션 모두 존재합니다. ^[23] 오픈소스 플랫폼으로는 'LangChain', 'AutoGPT', 'CrewAI' 및 'MetaGPT' 등이 있습니다. 오픈소스 플랫폼은 더 낮은 비용으로 특정 요구 사항에 맞게 코드를 수정하거나 고유한 시스템과 통합할 수 있는 유연성을 제공하며, 코딩 및 시스템 조정에 익숙한 개발자에게 적합합니다. 그러나, 상용 옵션에 비해 학습 곡선이 가파르고, 코딩 기술이 필요하며, 엔터프라이즈급 지원이 제한적이라는 단점이 있습니다.

• LangChain: LLM을 외부 도구 및 메모리 시스템과 연결하는 상황 인식 에이전트에 강점이 있어, 맞춤형 챗봇이나 데이터 기반 에이전트에 적합
• AutoGPT: 자율적으로 작업을 분류·실행하는 목표 중심의 워크플로우에 특화되어, 혁신적인 아이디어의 신속한 프로토타이핑이나 실험에 적합
• CrewAI: 프로젝트 관리, 팀 협업 등 복잡한 다단계 작업을 위한 협업 에이전트에 중점
• MetaGPT: 팀과 같은 협업을 위한 다중 에이전트 시스템에 중점을 두고 인간과의 협업을 시뮬레이션

상용 플랫폼으로는 Google 'Vertex AI Agents', 'Microsoft Copilot Studio', 'IBM Watson Orchestrate', 삼성SDS 'FabriX' 등이 있습니다. 상용 AI 플랫폼은 확장 가능하고 안전하며 신뢰할 수 있는 서비스를 제공합니다. 또한, 전문적인 지원 및 엔터프라이즈 시스템과의 통합을 제공하므로 AI 기반 운영을 대규모로 확장하려는 기업에 적합한 선택입니다. 그러나, 오픈소스에 비해 라이선스, 설정 및 유지 관리에 더 많은 투자가 필요할 수 있습니다.

• Vertex AI Agents: Google Cloud와 원활하게 통합되어 예측 분석 등의 대규모 운영을 위한 데이터 처리 자동화에 강점
• Microsoft Copilot Studio: HR 프로세스, 고객 서비스 대응 등 기업 내 업무 자동화를 위한 에이전트 생성을 간소화
• IBM Watson Orchestrate: AI를 비즈니스 워크플로우와 결합하여 공급망 관리, 재무 예측 등 다양한 작업을 최적화
• 삼성SDS의 FabriX: Multi LLM과 기업 데이터/시스템을 연계해 특정 업무와 환경에 최적화된 멀티 에이전트 개발을 지원, 현재 70여 개 고객사와 13만 명 이상이 활용

[그림 11] 기업용 AI 에이전트 플랫폼, FabriX (출처: 삼성SDS)

다양한 사내/외 지식, 시스템 쉬운 연계 활용

기업 시스템

• 영업
• 구매
• 인사

사내 지식

• 지식 자산
• 운영 메뉴얼
• 계약서

사외 지식

• 뉴스
• SNS
• 공시자료

AI 기술, Copilot 및 Multi-Agent Orchestration

FabriX

AI 포털, Agent 포털

오케스트레이터 / 필터

SDS LLM, 외부/내부 고객 보유 LLM, Fine-Tuning

데이터, RAG(사내/외 지식), Plugin

Copilot API

Samsung Cloud Platform, Microsoft Azure, AWS

업무시스템 One-Step Copilot 구현

• 제조 시스템
• 품질 시스템
• 물류 시스템
• R&D 시스템
• ...
• 경영지원 시스템

이러한 AI 에이전트 플랫폼은 복잡성과 사용 사례가 다양하므로 소규모 프로토타입이나 대규모 엔터프라이즈 솔루션 등 프로젝트의 목표에 따라 선택하는 것이 중요합니다. 예를 들어, 스타트업은 프로토타이핑을 위해 AutoGPT를 사용할 수 있고, 기업은 AI 에이전트 개발 및 운영을 확장하기 위해 삼성SDS의 FabriX를 선택할 수 있습니다.

☞ 2편에서는 버티컬 AI 에이전트의 산업별 혁신 사례와 기업의 대응 전략에 대해 살펴보겠습니다.

References
[1] https://www.adriel.com/ko/blog/top-5-ai-trends-marketing-2025
[2] https://blog.risemoment.ai/beotikeol-ai-eijeonteu-saas-sijangyi-10bae-seongjang-jeonmanggwa-gihoe/
[3] https://www.turing.com/resources/vertical-ai-agents
[4] https://arxiv.org/pdf/2501.00881
[5] https://www.linkedin.com/pulse/vertical-ai-agents-next-frontier-michael-meram-sm2kc/
[6] https://botpress.com/ko/blog/vertical-ai-agents
[7] https://www.jiniai.biz/2025/02/05/%EC%88%98%EC%A7%81%EC%A0%81-ai-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8vertical-ai-agents-%ED%8A%B9%ED%99%94%EB%90%9C-ai%EC%9D%98-%EC%83%88%EB%A1%9C%EC%9A%B4-%ED%8C%A8%EB%9F%AC%EB%8B%A4%EC%9E%84/
[8] https://www.marketsandmarkets.com/Market-Reports/ai-agents-market-15761548.html?ref=growthmarketing.ai
[9] https://growthmarketing.ai/vertical-ai-agents/
[10] https://aisparkup.com/posts/2148
[11] https://sendbird.com/blog/what-is-an-ai-agent/vertical-ai-agents
[12] https://file.alphasquare.co.kr/media/pdfs/market-report/%EA%B8%B0%ED%83%80AI20250530%EB%8C%80%EC%8B%A0%EC%A6%9D%EA%B6%8C.
[13] https://blog-ko.superb-ai.com/ai-times-cto-interview-250215/
[14] https://aws.amazon.com/ko/blogs/machine-learning/generative-ai-and-multi-modal-agents-in-aws-the-key-to-unlocking-new-value-in-financial-markets/
[15] https://www.makinarocks.ai/vertical-ai-agents-business-transformation/
[16] https://www.ibm.com/kr-ko/think/topics/multiagent-system
[17] https://smythos.com/developers/agent-development/multi-agent-systems-frameworks/
[18] https://www.leewayhertz.com/multi-agent-system/#How-do-multi-agent-systems-work
[19] https://www.sap.com/korea/resources/what-are-multi-agent-systems
[20] https://www.ibm.com/think/topics/agentic-architecture
[21] https://botpress.com/ko/blog/top-artificial-intelligence-trends
[22] https://teleperson.com/the-future-of-customer-service-how-vertical-ai-agents-are-changing-the-game/
[23] https://newo.ai/insights/ai-agent-platform-what-it-is-how-it-works-and-top-examples/