기업 업무 자동화의 진화, Brity Automation (1) 하이퍼오토메이션 발전, 에이전틱 AI 부상

2025년 현재, 우리는 '생성형 AI'와 'AI 에이전트' 시대의 한가운데 서 있으며, 2년 후에는 AI 에이전트가 모든 업무를 처리할 것으로 전망되고 있습니다. 이로 인해, 기업 업무 자동화는 또 한 번의 중요한 변곡점을 맞이하게 되었습니다.

현재 많은 기업들이 ChatGPT와 같은 생성형 AI를 활용한 업무 자동화의 가능성을 탐색하고 있습니다. 그런데, 현실은 어떨까요? 딜로이트의 최근 보고서에 따르면, 혁신적인 기업 중에서도 단 11%만이 생성형 AI 파일럿(PoC) 결과를 실제 비즈니스에 81% 이상 활용하고 있습니다. 놀랍게도 59%의 기업은 PoC를 진행했음에도 실제 활용도가 50% 이하에 머물러 있습니다. 투자 대비 수익(ROI) 측면에서도 우려가 제기되고 있습니다. 글로벌 IT 기업들은 AI 기술에 약 6천억 달러(약 100조 원)라는 막대한 금액을 투자했지만, 실제 매출은 약 천억 달러에 그치고 있습니다. 이러한 상황은 기업들이 AI 기술 도입 시 보다 현실적인 ROI 기대치를 설정할 필요성을 시사합니다.

[그림 1] Gen AI 도입 검토, 현실은? (출처: Deloitte, 기업의 생성형 AI 사용 현황, 2024년 9월 14개국 2,770명 리더 대상)

	응답한 기업의 비율(%)
Gen AI 파일럿의 비즈니스 활용 비율	81 ~ 100%	11	활발
	51 ~ 80%	30
	31 ~ 50%	15	저조
	1 ~ 31%	34
	0%	10

Gen AI 파일럿을 진행한 기업의 59%, 비지니스 활용 어려움 호소

게다가, 이러한 생성형 AI는 온전히 믿을 수 있을까요? 현재 AI 모델은 약 20%의 노력으로 80% 수준의 정확도를 달성할 수 있지만, 90% 이상의 정확도를 위해서는 기하급수적으로 많은 노력이 요구됩니다. 더욱이 확률 기반의 AI 시스템에서 100%의 정확도는 사실상 불가능한 목표입니다. 이러한 한계를 보완하기 위해 '휴먼인더루프(Human-in-the-loop)' 개념이 기업 업무 자동화에 필수적으로 적용되고 있습니다. 이는 AI가 생성한 결과에 대해 인간이 검증하고 피드백을 제공함으로써, AI 시스템이 지속적으로 학습하고 개선하는 프로세스를 의미합니다.

'AI 에이전트'는 2025년의 메가 트렌드로 부상했지만, 명확한 정의는 아직 확립되지 않았습니다. 오픈AI는 '사용자를 대신하여 독립적으로 작업을 수행할 수 있는 자동화 시스템' 또는 '지침과 도구를 갖춘 LLM 서비스'로 정의하며, '어시스턴트와 에이전트는 서로 대체 가능하다'는 개념도 제시합니다. 마이크로소프트는 '특정 전문성을 갖춘 AI 기반의 새로운 애플리케이션'으로 보고 있으며, 엔트로픽이나 세일즈포스 같은 기업들은 '사전 정의된 워크플로우를 따르는 규범적 구현'부터 '장기간 독립적으로 작동하는 완전 자율 시스템'을 포함하는 폭넓은 개념으로 에이전트를 해석하고 있습니다. 이처럼, 기업마다 AI 에이전트를 정의하고 상품화하는 방식이 다르며, 기술적 요소와 아키텍처적인 특성이 혼재되어 있는 상황입니다.

그러나, 이러한 AI 에이전트 역시 본질적으로 '기업 업무 자동화'를 위한 하나의 수단입니다. 이런 관점에서 AI와 자동화 기술의 도입에는 현실적인 접근이 필요합니다. 기업 내에는 단순 반복 작업부터 수익에 결정적으로 영향을 미치는 주요 의사결정까지 수백, 수만 개의 업무와 프로세스가 존재합니다. 각 업무의 특성에 따라 적합한 자동화 기술이 다르며, 하나의 기술이 기업의 모든 업무 자동화를 해결할 수는 없습니다. 기업 업무의 특성과 목적에 맞는 자동화 기술을 선별적으로 검토하고 적용함으로써, 실질적인 비즈니스 가치를 창출해야 할 시점입니다.

[그림 2] 타겟 업무와 목적에 따른 다양한 자동화 기술 (출처: 발표자 제작)

시점(時點 : 때, 어느 순간)이 아닌 시점(視點 : 타겟, 목표)

Task Automation	Process Automation	Congitive Process Automation	Digital Colleague platform
RPA	BPA,DocAI	LLM, RAG	AI Agent, ?
자동화 가능 범위가 왼쪽으로 갈수록 static, 오른쪽으로 갈수록 adaptive입니다.

하이퍼오토메이션의 발전

하이퍼오토메이션(Hyperautomation)은 가트너가 정의한 개념으로, 다양한 업무 자동화 기술들을 통합적으로 활용하는 개념입니다. 이는 초기 RPA(Robotic Process Automation)에서 크게 발전한 형태로 볼 수 있습니다. 기존 RPA가 단순히 반복적이고 단기적인 '태스크 자동화'에 중점을 두었다면, 하이퍼오토메이션은 기업의 'End-to-End 프로세스 자동화'를 실현하는 데 초점을 맞추고 있습니다.

업무 자동화의 생태계는 세 가지 주요 영역으로 확장되고 있습니다. 첫째, '실행(Act)' 영역은 기존의 RPA 기술에 더해, API 기반 인티그레이션을 담당하는 BPA(Business Process Automation)와 인간-기계 협업을 가능케 하는 휴먼인더루프(Human-in-the-loop) 기능을 제공하는 Form UI 등이 통합되었습니다. 둘째, '센스(Sense)' 영역에서는 문서 인식과 음성 처리와 같은 데이터 수집 및 인식 기술이 확대되었습니다. 무엇보다도 '사고(Think)' 영역에서는 전통적인 머신러닝 알고리즘과 최근 발전한 생성형 AI 기술이 통합되면서 지능적인 의사결정 기능을 제공합니다.

[그림 3] 하이퍼오토메이션의 진화 (출처: 발표자 제작)

Evolution of the "Htperautomation"

RPA 기반 반복 Task 자동화	고도화/지능화된 자동화 : Hyperautomation	자율형(AI Agent 기반) 자동화 : Hyperautomation의 진화
RPA, 단순 태스크 반복 RPA 기반 OCR, IoT, Chat Bot	GenAi, ML, E2E로 확장 Sense : IoT Edge, STT/TTS, Vision, IDP/OCR, Chat Bot Think : ML/DL, Gen.AI, Process Mining Act : RPA, BRP, FormUI	AI Agent, 스스로 행동 AI Agent : IoT Edge, STT/TTS, Vision, IDP/OCR, Chat Bot, ML/DL, Gen.AI, Process Mining, RPA, BRP, FormUI

이러한 세 영역의 통합적 발전이 하이퍼오토메이션의 핵심이며, 이러한 발전 과정에서 최근 가장 주목받는 기술이 바로 '에이전틱 AI(Agentic AI)'입니다. 에이전틱 AI는 하이퍼오토메이션의 효과를 더욱 극대화하고 기업의 업무 자동화를 한 단계 더 발전시키는 핵심 기술로 자리 잡고 있습니다.

에이전틱 AI의 부상

AI 에이전트(AI Agent)는 마치 사람처럼 스스로 생각하고 행동할 수 있는 인공지능 기술로, 하이퍼오토메이션의 다양한 능력을 활용하여 독립적으로 기능을 수행할 수 있습니다. 기존의 전통적인 고객지원 AI 어시스턴트(AI Assistant)는 단순한 머신러닝 기반의 의도 분류를 통해 사용자와 대화하며 미션을 해결하려 했으나, 기술적 한계가 컸습니다. 반면, 생성형 AI 기반 AI 에이전트는 사용자나 시스템의 상황을 충분히 이해하고, 자율적으로 필요한 액션을 실행하며, 결과에 대해 스스로 평가하고, 그 평가를 바탕으로 결과물을 개선하는 자기 주도적 문제 해결 능력을 갖추고 있습니다. 예를 들어, 기존의 AI 어시스턴트가 기차표 예매 시 "언제 가실 건가요?", "SRT를 타실 건가요? KTX를 타실 건가요?"와 같은 순차적 질문으로 정보를 수집했다면, AI 에이전트는 사용자의 프로파일과 컨텍스트를 기반으로 목적지, 시간, 이동 수단 등을 종합적으로 고려해 예매까지 완료할 수 있는 수준으로 발전하고 있습니다.

[그림 4] AI 어시스턴트 vs. AI 에이전트 (출처: 발표자 제작)

AI Assistant vs. AI Agent

AI Assistant

사용자 : 3/20 삼성SDS Industry Day 참석을 위해 서울에서 출발하는 기차표를 알려줘 AI Assistant : 어디로 도착하나요? 사용자 : 서울역에서 출발해서 부산역에 도착이야 AI Assistant : 몇 시 출발 예정인가요? 사용자 : 서울역에서 오전 7시 전에는 출발해야 해. AI Assistant : 3/20 서울역 출발, 부산역 도착 KTX는 오전 6:30, 오전 6:00 기차가 있습니다.

AI Agent

사용자 : 3/20 삼성SDS Industry Day 참석을 위해서 기차표를 예약 하려고 해 AI Agent : [...삼성SDS Industry Day 정보 서치(AI Agent #1 : Web Search Agent 실행), 장소, 시간 확인 후 이동시간을 고려한 기차 시간 검색 (AI Agent #2 : 교통편 검색 Agent 실행) 과거 KTX 이용내역, 선호좌석 기반 기차 예매 실행 (AI Agent #3 : 기차 App. 내역 확인/예약 Agent 실행)] 3/20 6:30 서울역 출발 KTX 3호차 5A 예약하였습니다. 즐거운 시간 되시길 바랍니다.

에이전틱 AI(Agentic AI)에 대한 시장의 관심은 매우 높습니다. MWC 2025에서 레이 커즈웨일 교수는 컴퓨터 성능이 반도체 기능 향상에 힘입어 약 5천억 배 향상되었기 때문에, “2029년, AI는 인간 수준의 지능에 도달할 것”이라는 낙관적인 전망을 제시하며, AI 기술 전반의 성장과 에이전틱 AI의 부상을 시사했습니다.

에이전틱 AI의 개념을 설명하는 흥미로운 패러다임도 있습니다. 2024년 9월, 오픈AI의 'o1' 모델 출시 시점에 생성형 AI 투자를 선도하는 '세콰이어 캐피탈(Sequoia Capital)'은 흥미로운 개념인 'Service as a Software((SaaSW)'를 소개했습니다. 이는 기존의 SaaS(Software as a Service)와는 대비되는 개념입니다. 즉, 지금까지 소프트웨어는 IT 시스템을 구축하기 위한 도구였지만, 에이전틱 AI는 '소프트웨어 그 자체로서 세상의 모든 일을 할 수 있게 될 것'이라고 전망했습니다. 세콰이어는 에이전틱 AI가 타깃으로 하는 시장의 규모를 10조 달러 이상이라고 예측했는데, 이는 IT 소프트웨어와 IT 서비스 시장 전체를 아우르는 야심 찬 비전을 보여줍니다.

오픈AI의 샘 알트만은 에이전틱 AI가 AGI로 가기 위한 5단계에서 현재 2단계 후반에 위치한다고 평가했습니다. 그러나, 기업들이 에이전틱 AI를 본격적으로 적용하기 위해서는 3단계 후반, 즉 AI 에이전트가 자율적인 수행과 의사결정 능력을 갖추는 수준에 도달해야 할 것으로 보고 있습니다.

[그림 5] 에이전틱 AI 발전 단계 (출처: 발표자 제작)

Agentic AI 발전단계

1. 1) 챗봇 AI : 텍스트 생성, 기본 질의 응답, 단순 작업 수행, 패턴 매칭
2. 2) 추론 AI : 논리적 분석, 복잡한 문제 해결, 고급 추론, 패턴 인식 (현재)
3. 3) AI 에이전트 : 장기 과제 수행, 자율적 의사 결정, 다단계 계획 수립, 최소 감독 필요 (근 미래)
4. 4) 혁신가 AI : 과학적 발견, 창의적 문제 해결, 혁신적 돌파구, 독립적 연구(개발 목표)
5. 5) 조직 AGI : 조직 업무 수행, 전체 비즈니스 운영, 다중 팀 협업 조율, 전략적 의사결정 (미래목표)

에이전틱 AI에 대한 전문가들의 의견은 매우 다양한 스펙트럼을 보이고 있습니다. '와이 콤비네이터(Y-Combinator)'와 같은 스타트업 인큐베이터는 생성형 AI가 가진 불안정성에도 불구하고 기술 발전 속도가 놀라울 정도로 빠르며, 현재 정상적인 성장 궤도에 있다고 낙관적으로 평가하고 있습니다. 반면, UC버클리대의 스튜어트 러셀 교수는 생성형 AI나 에이전틱 AI 개발 접근 방식인 '피드포워드*’ 회로 자체가 근본적으로 AGI로 발전하기 어려운 접근법이라고 비판적인 시각을 제시하고 있습니다. 최근에는 "에이전틱 AI 시대가 오면 RPA도, 하이퍼오토메이션도 더 이상 필요 없을 것"이라는 광고도 등장하고 있습니다.
*피드포워드: 신경망에서 입력에서 출력으로 데이터가 한 방향으로만 전달되는 구조를 말함. 입력 데이터가 신경망을 통해 순방향으로 진행되며, 이전 레이어의 출력이 다음 레이어로 전달되지만, 역방향으로의 피드백은 없음

이러한 다양한 관점 속에서, 에이전틱 AI에 대한 실제 기업 환경에서의 적용 가능성을 검증하기 위해 테스트를 진행했습니다. 오픈AI의 '오퍼레이터(Operator)'와 엔트로픽의 'Claude 3.7' 모델의 컴퓨터 제어 기능(CUA, Computer Using Agent)을 활용하여–북미의 베스트 바이 웹 사이트에서 갤럭시 제품 정보를 수집하고 정리한 후 메일로 전송하는–자동화 시나리오를 실행했습니다. 테스트 결과, AI 에이전트들은 대체로 작업을 성공적으로 완료했으나, 기업 업무 자동화에 적용하기 위한 몇 가지 중요한 고민 포인트를 발견했습니다. 먼저, 작업을 완료하는 데 걸리는 시간과 실행 결과가 모델별 또는 단일 모델 내에서도 상이했고, 동일한 작업을 수행할 때마다 추론 경로가 달라지는 일관성 부족 현상이 발견되었습니다. 또한, 현재 제공되는 기능 수준에서 API 기반 요금제의 모델을 사용할 경우, 비교적 단순한 작업을 수행하더라도 큰 비용이 발생할 수 있다는 점입니다.

더 중요한 점은, 실제 기업의 업무가 테스트 시나리오보다 훨씬 복잡하다는 사실입니다. 현재의 사용자 경험(CX)과 성능으로는 복잡한 End-to-End 업무의 완결성을 보장하기 어렵습니다. 기업 특화 레거시 시스템이나 특정 업무 프로세스를 다루기 위해서는 추가 학습이 필요하며, 이는 막대한 비용을 수반합니다. 더욱이, 'OSWorld'에서 발표된 CA 벤치마킹 스코어에 따르면, 현재 가장 뛰어난 성능을 보이는 오픈AI의 오퍼레이터조차도 약 38.1%의 정확도에 그치고 있습니다. 이러한 현실적인 한계들이 극복되지 않는 한, 에이전틱 AI가 기업의 RPA나 하이퍼오토메이션 시스템을 단기간에 완전히 대체하기는 어려울 것으로 보입니다.

[그림 6] 기업의 업무 자동화에 대한 고민 (출처: 발표자 제작)

기업 엄무 자동화의 고민

• 완결성 : 복잡한 E2E 업무 자동화 구현
• 적용성 : 비용 효율적인 학습 및 배포
• 정확/일관성 : 위험을 최소화하는 신뢰성

세션 발표자:
☞ 삼성SDS Hyper Automation사업팀 김정민 상무 (cm.steve.kim@samsung.com)
☞ 삼성SDS Hyper Automation사업팀 박재혁 그룹장 (jay80.park@samsung.com)
☞ 삼성SDS Brity Automation개발팀 김효영 팀장 (hy1031.kim@samsung.com)