Agentic AI 시대, 기업의 AI 활용 전략은?

AI 기술은 빠르게 발전하고 있으며, 많은 사람들이 "Agentic AI 시대가 왔다!"라고 말하고 있습니다. CES 2025 키노트에서 엔비디아(NVIDIA) 젠슨 황 대표는 이미지, 텍스트, 사운드를 생성할 수 있는 ‘생성형 AI(Generative AI)’를 거쳐, 이제는 AI가 추론하고 계획하며 실행까지 가능해진 ‘에이전틱 AI(Agentic AI)’ 시대가 도래했다고 언급했습니다. 더 나아가, ‘에이전틱 AI(Agentic AI)’를 넘어 ‘피지컬 AI(Physical AI)’ 시대로 변화하고 있으며, 일부 기사에서는 2025년을 이미 피지컬 AI 시대라고 표현하기도 합니다.

지난 10여 년간 AI 기술은 급격한 변화를 겪었습니다. 2012년 딥러닝 기술로 다시 주목받기 시작한 AI 기술은 이미지에서 개나 고양이와 같은 사물을 인식하는 ‘퍼셉션 AI(Perception AI)’ 중심으로 발전했습니다. 이후 2022년 말, ChatGPT의 등장으로 ‘생성형 AI(Generative AI)’가 본격적으로 주목받으며 새로운 국면을 맞았습니다. 그리고 2025년 현재, 기술은 더욱 진화하여 ‘에이전틱 AI(Agentic AI)’ 시대로 접어들었습니다.

Generative AI에서 Agentic AI로

에이전틱 AI(Agentic AI)는 기존 생성형 AI와는 다른 특별한 특징을 가지고 있습니다. 2025년 2월 포브스 기사에 따르면, 생성형 AI는 대량으로 학습한 지식을 바탕으로 사용자의 지시에 따라 콘텐츠를 생성하는 ‘창조적 도구(The Creative Powerhouse)’입니다. 반면, 에이전틱 AI는 목표 달성을 위해 스스로 계획을 세우고, 실행하며, 상황을 판단하여 문제를 해결하는 ‘자율적 문제 해결사(The Autonomous Problem-Solver)’입니다. 이러한 에이전틱 AI는 생성형 AI와 상호 보완적으로 작동하며, 더 복잡하고 실질적인 문제 해결에 활용할 수 있는 중요한 전환점을 제공하고 있습니다. 예를 들어, 제조 분야에서는 에이전틱 AI가 공정 최적화를 위해 데이터를 분석하고 실행 계획을 세우며, 생성형 AI는 필요한 보고서를 작성하거나 시뮬레이션 결과를 시각적으로 표현할 수 있습니다.

[그림 1] 생성형 AI와 에이전틱 AI의 차별화된 특징 (출처: 작성자 제작)

생성형 AI & 에어전틱 AI

생성형 AI : 대량 학습한 데이터를 기반으로 지시에 따라 콘텐츠 생성

에이전틱 AI : 자율적 계획 및 실행으로 복잡한 문제를 효과적으로 해결

이러한 특성은 제조를 비롯한 서비스, 물류, 환경, 국방 등 다양한 산업 분야에서의 활용 가능성을 넓히고 있습니다. 제조업에서는 산업용 IoT 데이터와 연계하여 이상 징후를 감지하고 예측 유지 보수를 수행합니다. 서비스업에서는 지식 베이스를 활용한 대화형 셀프서비스를 제공하거나, 계정 접근 및 비밀번호 재설정 등의 문제를 해결합니다. 물류 분야에서는 컴퓨터 비전과 로봇 제어를 결합한 물리적 에이전트를 통해 물류창고에서 다양한 형태의 물품 식별, 분류, 포장 등을 자동화합니다. 최근에는 환경적인 분야에서도 기업의 탄소 배출 및 지속가능성을 예측하고 관리하는 AI 플랫폼으로 활용하고 있습니다.

(1) GPU 사용은 여전히 늘어날 것으로 예상됩니다
AI 발전 과정에서 GPU는 핵심적인 역할을 담당해 왔으며, 앞으로도 GPU 사용은 계속 증가할 것으로 예상됩니다. 모델 학습부터 활용까지 GPU 사용은 크게 세 단계로 구분할 수 있습니다.

[그림 2] 모델 학습/활용 단계별 GPU 사용 (출처: 작성자 제작)

1. 사전 학습 : 사전 학습을 통한 고성능 모델 출시
2. 사후 학습 : 조정 학습을 통한 모델 성능 강화
3. 모델 활용 : 추론 과정과 AI 에이전트 실행

첫 번째는 ‘사전 학습(Pre-train)’ 단계입니다. 모델을 처음 학습시키는 과정으로, 2022년 출시된 ChatGPT는 방대한 양의 지식 데이터를 기반으로 대규모 GPU 자원을 활용해 사전 학습을 진행하여 고성능 모델을 선보였습니다. 이후, 2024년 초까지 여러 기업들은 더 많은 데이터와 GPU를 사용한 분산 학습으로 AI 모델의 성능을 향상시켰습니다.

두 번째 단계는 ‘사후 학습(Post-train)’입니다. 2024년부터는 사전 학습 이후 실제 작업 수행과 추론 능력을 강화하기 위한 ‘조정 학습’에 더 많은 GPU 자원을 사용하여 효과적으로 성능을 높였습니다. 특히 주목할 것은 2025년 중국 스타트업 딥시크가 선보인 AI 추론 모델인 ‘R1’입니다. 이 모델은 오픈소스 모델을 기반으로 비교적 적은 GPU를 사용한 조정 학습을 통해 뛰어난 성능을 보여주었습니다. 이러한 성과는 다양한 추론형 모델 출시와 에이전틱 AI 확산의 촉매제가 되었으며, 기술 발전으로 인한 자연스러운 변화로 볼 수 있습니다.

마지막 단계는 학습된 모델을 실제로 실행하고 문제를 해결하는 ‘활용’ 과정입니다. 특히, ‘추론 과정’과 실시간 데이터 처리와 의사결정을 필요로 하는 ‘에이전트 서빙/실행’은 강력한 컴퓨팅 파워가 요구됩니다. 따라서, 각 단계에서 성능 향상을 위한 GPU 사용은 앞으로 더욱 확대될 것입니다.

(2) AI 기업들의 전략이 변화하고 있습니다
AI 기업들은 기존의 대규모 언어 모델(LLM) 개발에만 집중하지 않고, ‘AI 에이전트’와 이를 활용한 ‘응용 애플리케이션 개발’로 전환하거나, 사업 영역을 확장하고 있습니다. 이러한 변화는 ‘기술 시장의 포화’와 ‘차별화의 필요성’에서 비롯됩니다. OpenAI, Google, Anthropic 같은 빅테크 기업들이 이미 뛰어난 성능의 모델을 출시하며 경쟁력을 확보한 상황에서, 모델 자체보다는 ‘기존 모델을 어떻게 효과적으로 활용해 실제 문제를 해결하는가’가 차별화의 핵심이 되었습니다. 또한, 2022년 이후 전 세계적으로 AI 분야에 막대한 자본이 투입된 만큼, 특정 산업과 사용 사례에 맞춘 AI 에이전트와 응용 사례를 통해 실질적인 비즈니스 가치 창출이 필요해졌습니다. 이러한 배경에서 AI 기업들은 모델을 개발하는 것을 넘어, AI 에이전트를 직접 만들거나 AI 에이전트 개발을 위한 프레임워크를 제공하는 방향으로 사업을 확장하고 있습니다.

[그림 3] AI 기업 전략의 변화: AI 에이전트 및 응용 애플리케이션 개발 확대 (출처: 작성자 제작)

AI 기업 전략의 변화

LLM 중심 접근(기술 시장의 포화로 차별화 부족) vs AI 에이전트 중심 접근 (산업별 응용 사례로 실제 비지니스 가치 창출)

(3) 다들 같은 Agent를 말하고 있나요?
흥미롭게도 ‘에이전트’라는 개념은 기업마다 다르게 정의하고 있습니다. OpenAI의 경우 ‘사용자를 대신해 자율적인 행동을 하는 것’, ‘지침과 도구를 갖춘 LLM 서비스’, 또는 ‘어시스턴트와 같은 것’ 등 조금씩 다른 방식으로 에이전트를 설명합니다. 마이크로소프트는 ‘특정 전문성을 갖춘 AI 기반의 새로운 애플리케이션’으로 정의하고 있으며, 앤트로픽이나 세일즈포스 같은 기업들은 ‘단순한 반복적인 작업’부터 ‘복합적인 자율 작업’까지 폭넓은 범위로 에이전트를 바라보고 있습니다. 이처럼 회사마다 에이전트를 정의하고 상품화하는 방식이 다양하며, 기술적 요소와 아키텍처적인 측면이 혼재되어 있습니다. 사실 에이전트라는 개념 자체는 오래전부터 존재해 왔지만, 기술과 시장의 발전에 따라 점차 변화해 왔습니다. 이제는 다른 기술들처럼 글로벌 표준화를 통해 에이전트에 대한 명확한 정의와 기준을 마련하는 노력이 필요한 시점입니다. 과거 인터넷이 등장했을 때 HTTP 프로토콜을 통해 웹 페이지를 정의하고 렌더링하는 기술들이 정착된 것처럼, 현재 에이전틱 AI 분야에서도 여러 기업들이 프로토콜에 해당하는 부분들을 제시하고, 이를 기반으로 에코시스템을 구축하려는 노력이 진행되고 있습니다.

(4) Agentic AI, 다양한 사례가 개발되고 있습니다
에이전틱 AI는 사용자를 대신해 특정 작업을 수행하는 ‘대리인’ 역할을 하는 프로그램입니다. 쉽게 말해, 사람이 직접 하지 않아도 되는 일을 처리해 주는 똑똑한 비서라고 할 수 있습니다. ‘에이전틱 시스템(Agentic System)’은 에이전트가 목표를 달성하기 위해 인지하고, 추론하며, 행동하고, 결과를 분석하는 실행 환경입니다. 이 시스템은 여러 구성 요소로 이루어져 있습니다. ‘대규모 언어 모델(LLM)’은 두뇌 역할을 하며 추론과 계획을 수립하고, ‘벡터 메모리(Vector Memory)’는 단기 및 장기적인 정보와 지식을 관리합니다. 또한, API 호출, 데이터베이스 조회, 인터넷 검색 등을 수행할 수 있는 ‘툴(Tool)’을 갖추고 있습니다. 이 모든 요소가 하나로 연결되어 작동하는 것이 에이전틱 AI입니다.

[그림 4] 에이전틱 시스템(Agentic System) 구성 (출처: 발표자 제작)

User ← 요청/응답 → Agent

Agent

• Prompt(Task #1, Task#N) ← Task 관리(Instruction) → Agent
• Vecotr Memory(Short-term, Long-term) ← 컨텍스트 저장/지식 관리 → Agent
• LLM(Reasoning, Planning) ← 추론/계획 수립 → Agent
• Tool(API, Database, Plug-in, Search) ← 액션 수행/결과 관찰 → Agent

현재 다양한 에이전틱 AI 사례가 개발되고 있습니다. OpenAI의 ‘딥 리서치(Deep Research)’는 연구에 필요한 웹 검색과 논문을 조사/분석하여 연구자 수준의 보고서를 생성합니다. 딥 리서치의 추론형 모델은 -AI 모델이 전문가 수준의 지식과 추론 능력을 갖췄는지를 판별하는- ‘HLE(Humanity’s Last Exam)’ 테스트에서 26.6% 성공률을 기록했습니다. 또 다른 사례로 OpenAI의 ‘오퍼레이터(Operator)’는 컴퓨터를 사용해 웹 기반 작업을 수행합니다. 사용자가 자연어로 요청을 하면 마우스 클릭이나 키보드 타이핑을 통해 온라인 주문이나 데이터 관리 등의 작업을 처리할 수 있습니다. 다만, 이러한 에이전트들의 성능은 개선되고 있지만, 아직까지 100% 성공에는 도달하지 못했으므로 선별적인 사용이 필요합니다.

‘자동 예측 에이전트’는 리스크 관리와 운영에서 이상 변이를 분석하고 예측하여 자율적으로 조정하며, 기존의 룰 기반 시스템이나 머신러닝(ML) 시스템보다 더 뛰어난 성능을 보여 줍니다. 에이전트의 모델은 기존 LLM을 그대로 사용하지 않고, 이상 감지와 시계열 분석에 맞게 튜닝된 형태입니다. 이렇게, 에이전트는 하나의 모델을 기반으로 프롬프트 엔지니어링을 통해 다양한 업무를 자동화하는 형태로 발전하고 있다고 볼 수 있습니다.

마지막으로, ‘고객센터 콜 상담 에이전트’입니다. 고객 상담 업무에는 정보의 산재, 숙련도에 따른 고객 대응 차이, 상담 내용 요약에 대한 부담 등 여러 페인 포인트가 있습니다. 고객 상담 에이전트는 ‘실시간으로 상담을 위한 답변을 추천’하고, 상담 종료 후에는 ‘상담 내용을 요약하거나 FAQ를 자동 생성’합니다. 해당 에이전트의 실행을 위해서는 대화를 텍스트로 변환(STT)하고, 상담시스템의 업무 지침이나 고객 데이터베이스와 연계하며, 사용자 피드백을 기반으로 LLM이 재학습할 수 있는 체계를 갖추고 있어야 합니다.

(5) 다양한 Agentic AI 유형, 최적의 선택이 중요합니다
에이전틱 AI는 단독으로 작동할 수도 있지만, 여러 에이전트가 함께 일하는 ‘멀티 에이전트’를 통해 더 복잡한 작업을 처리할 수 있습니다. 예를 들어, 리더 에이전트(Leader Agent)가 사용자의 목표를 분석하고 작은 태스크로 나눠 다른 에이전트들에게 분배한 뒤, 그 결과를 취합하여 사용자에게 전달할 수 있습니다. 멀티 에이전트의 협업 방식은 다양하게 구성할 수 있으며, 순차적으로 태스크를 연결하거나, 하나의 태스크를 모든 에이전트에게 동시에 맡긴 후 결과를 취합하는 방식도 가능합니다. 중요한 점은 에이전트가 다양한 범위와 유형으로 정의되기 때문에, 문제를 정확히 파악하고 문제를 가장 잘 해결할 수 있는 구조를 선택하는 것이 중요하다는 것입니다.

또 다른 유형으로는 RAG 성능 개선을 위한 ‘에이전틱 RAG(Agentic RAG)’가 있습니다. 기존의 RAG(검색 증강 생성)은 일차원적으로 지식을 검색하고 검색된 지식을 바탕으로 답변을 생성했지만, 에이전틱 RAG는 더 발전하여 단계별 분석, 검토, 수정, 보완 과정을 거쳐 최종 답변을 생성합니다. 질의를 분석하고 검색하여 답변을 생성하고, 그 답변이 유용한지 평가하여 필요한 단계를 다시 실행해 최종 답변을 개선합니다. 에이전틱 RAG를 적용하면 기존 방식보다 정확도를 크게 향상시킬 수 있습니다.

오픈 월드 와이드 애플리케이션 시큐리티 프로젝트(OWASP)는 보안 위협에 대응하는 측면에서 다양한 에이전틱 AI 구조를 분석하고, 최근 10가지 유형으로 정리하고 있습니다. 여기에는 스스로 답변을 평가/검토하여 개선하는 ‘Reflective Agent’, 일정 예약과 같은 정해진 작업을 수행하는 ‘Task-oriented Agent’, 하나의 에이전트가 아니라 협업 조직 체계를 갖는 ‘Hierarchical Agent’, 분산 환경에서 동작하는 ‘Distributed Agent Ecosystem’, 사용자가 의사결정에 참여해 문제를 해결하는 ‘Human-in-the-Loop Collaboration’ 등이 포함됩니다.

[그림 5] 에이전틱 AI 유형 및 작동 방식 (출처: OWASP, "Agentic AI – Threats and Mitigations")

• Reflective Agent - 스스로 답변을 평가/검토 하여 개선합니다.
• Hierarchical Agent - 복합 업무 수행을 위한 협업 조직 체계를 구성합니다.
• Distributed Agent Ecosystem - 분산된 환경에서 작동합니다.
• Self - learning and Adaptive Agents - 지속적인 학습을 통해 에이전트를 개인화합니다.
• Planning Agent - 목표를 위한 세부계획을 수립하고 실행합니다.
• Task-oriented Agent - 정해진 태스크를 수정합니다.
• Coordination Agent - 에이전트 협업을 위한 역할 배분을 담당합니다.
• Human-in-the-Loop Collaboration - 상호작용을 통해 사용자 의사 결정을 지원합니다.
• RAG-based Agent - 지식 검색을 통해 연구를 보조합니다.
• Context-aware Agent - 사용자 선호도와 맥락을 고려해 동적으로 계획합니다.

기업의 AI 활용 전략

AI 기술은 굉장히 빠르게 발전하고 있고, 정의나 활용도도 매우 다양합니다. 이러한 상황에서 기업은 AI를 어떻게 잘 활용할 수 있을까요? 기업이 AI를 성공적으로 도입하기 위해서는 체계적인 접근이 필요합니다. 무엇보다 경영진의 의지를 바탕으로 전사적인 AI 적용을 추진해야 합니다. 이 과정에서 데이터 체계를 정비하고, 복잡한 시스템들의 기준정보를 정리하며, 전체 업무 프로세스를 개선할 수 있는 기회로 삼는 것이 중요합니다. 보안 관리는 절대 소홀히 해서는 안 되며, 소프트웨어에만 의존하기보다 임직원의 AI 역량 강화에 투자해야 합니다. 또한, 이러한 노력의 성과가 지속되려면 적용 효과를 계속해서 평가/관리할 수 있어야 합니다.

(1) 전사적 AI 도입을 시도하면 개선점이 보입니다
전사적으로 AI를 도입하면 업무별로 다양한 적용 방식과 효과가 나타납니다. 포털의 챗 서비스, 업무 솔루션의 코파일럿 활용, API를 통한 시스템 연계, 에이전트 설계/구현을 통한 복잡한 프로세스 자동화 등 다양한 적용 방식이 있습니다. 이러한 사례들은 LLM 호출 빈도와 난이도에서도 차이를 보입니다. 어떤 업무는 많은 LLM 호출이 필요한 반면, 어떤 업무는 적정한 수준의 LLM 호출로 동일한 효과를 얻을 수 있습니다. 업무 특성에 따라 활용도에도 차이가 있습니다. 센싱 리포트 작성이나 컨택센터 상담과 같이 정형화되고 반복적인 업무는 AI 호출이 많고 효과도 큰 편입니다. 반면, 일반적인 업무는 많은 임직원들이 다양하게 활용하는 사례로 볼 수 있습니다.

[그림 6] 업무 자동화 사례 (LLM 호출 빈도 & 활용도) (출처: 발표자 제작)

월평균 LLM 호출 횟수 기준 AI를 활용한 업무 자동화 사례들

• 10K이상, 100K이상 - 대규무 업무 자동화 (센싱 리포트 작성, 컨택센터 상담요약 등)
• 1K 부근 - 일반 업무 코파일럿 & 에이전트
• 1K 한참 미만 - 시범적 활용

성공적인 AI 적용을 위해서는 몇 가지 중요한 요소가 있습니다. 번역, 질의응답 등 기본 기능을 넘어 다양한 업무에 확대 적용하려면, ‘다양한 시스템과 데이터와의 연계 필요합니다. 새로운 기술과 사례가 등장하면서 기존에 정리된 체계만으로는 부족한 부분이 생기고, 데이터가 없는 경우도 많습니다, 이런 상황에서는 상이한 ‘시스템 기준정보를 정리’하고, 데이터 품질을 높이기 위한 ‘양질의 데이터 축적’이 필요하며, 시스템 연계를 위해 ‘사내 시스템의 API를 재정리’하는 노력이 필요합니다. 즉, 업무 프로세스를 전체적으로 개선하기 위해 노력할 때, 궁극적인 업무 자동화 및 효율화로 나아갈 수 있습니다. 또한, ‘임직원의 전문 도메인 지식과 AI 역량의 조합’ 역시 중요합니다. AI 역량에 따라 어떤 직원은 기대 이상의 효과를 보는 반면, 어떤 직원은 AI 활용에 한계를 느끼고 기존 업무 방식으로 돌아갈 수도 있기 때문입니다.

(2) 시스템과 솔루션을 연결하면 AI 적용 효과와 범위가 확대됩니다
기업 내 시스템 환경은 인프라, 플랫폼, 애플리케이션, 서비스 등 여러 층으로 구성되어 있으며, 기존 레거시 시스템, 공통 업무 솔루션, 기간계 솔루션 등 모든 시스템과 솔루션을 에이전트와 연결해 업무 프로세스를 효율화할 수 있습니다. 현재, ERP, SCM, HCM 등 각각의 솔루션들은 자체적으로 에이전트를 개발하고 있습니다. 이러한 에이전트들을 효과적으로 연계하기 위해서는 데이터와 시스템 레벨에서의 연결이 필요합니다. 이를 위해, 사내 데이터에 대한 ‘카탈로그 생성’이나 ‘API 연계’를 수행해야 합니다. 특히 빠르게 변화하는 기술 환경에서는 이러한 노력이 지속적으로 이루어져야 합니다.

[그림 7] 삼성SDS AI 에이전트 기반 생성형 AI 오퍼링 (출처: 삼성SDS)

삼성SDS AI 에이전트 기반 생성형 AI 오퍼링 테이블

	custom Agent					Soultion(SaaS) Agent
Agent 서비스	구매 Agent	물류 Agent		경영지원 Agent		Collaboration Agent	Automation Agent	SRM Agent	SCE Agent	SCM Agent	CRM Agent	HCM Agent	ERP Agent
Biz. 애플리케이션	Legacy System					Brity Copilot	Brity Automation	emro	cello square	o9	salesforce	workday	SAP
	구매 시스템	물류 시스템		경영 시스템
생성형 AI 플랫폼	Fabrix					메일/결재, 메신저, 미팅, 드라이브	RPA(Robotic Process Automation), BRA(Business Process Automation), Document AI	Caidentia	Cello	o9 AI Digital Brain	Agentforce	Workday	BTP
	플랫폼 서비스	Agent API
		AI Portal		Agent Studio
		Multi-Agent Orchestration
	사내정보 카탈로그	Knowledge	API	Data	Asset					글로벌사 생셩형 AI 오퍼링
생성형 AI 클라우드 인프라	Samsung Cloud Platform X GPUaas(GPU as a Service)						Microsoft Azure, ORACLE CLOUD, AWS Google Cloud, On-premise

하지만 주의할 점은, 시스템과 솔루션을 연결하는 과정에서의 잘못된 설계는 기존 레거시 시스템처럼 복잡도만 높아지는 결과를 초래할 수 있다는 것입니다. 따라서, 기술적 통일화와 표준화를 추진하고, 새로운 변화에 신속하게 대응할 수 있는 체계를 구축하는 것이 매우 중요합니다.

(3) 기업 내 다양한 시스템과 데이터 접근, 전체적 보안이 필요합니다
에이전틱 AI를 도입할 때는 보안 측면에서 특별한 주의가 필요합니다. 에이전틱 AI가 여러 시스템과 데이터에 자율적으로 접근해 문제를 해결하는 환경에서는 보안 위험이 증가할 수밖에 없기 때문입니다. 앞서 설명한 대로, OWASP에서는 에이전틱 AI 도입 시 발생할 수 있는 새로운 유형의 보안 위협을 모델링하고 있습니다. 이러한 위협은 ‘에이전트, 서비스, 모델, 데이터베이스, 애플리케이션’ 등 모든 접점에 존재합니다. 따라서 하나의 접점만 보호하는 것으로는 부족하며, ‘위협 모델링(Threat Modeling)’을 통해 리스크를 예방하고, 조치하며, 탐지하는 등 전방위적인 보안 체계를 구축해야 합니다. 기업이 이미 많은 보안 체계와 권한 관리 시스템을 갖추고 있더라도, 에이전틱 AI 시대에는 안전한 메모리 관리, 툴 실행 시 보안, 접근 권한 제한, 사용자 검수 강화 등 종합적으로 보안을 강화해야 합니다. 즉, 새로운 유형의 유스케이스 도입 시, 빠지는 부분이 없는지 체계적으로 정비하는 것이 중요합니다.

(4) AI 활용, 사람의 역할이 더욱 중요해집니다
에이전틱 AI 시대, AI 역할이 커지는 만큼 사람의 역할이 더욱 중요해집니다. AI는 100% 정확하지 않고 항상 오류 가능성이 있기 때문에, 에이전트가 자율적으로 해결한 문제와 의사결정에 대해 사람이 안전하게 확인하는 검수 과정이 필요합니다. 최근 연구 결과에 따르면, 지식 노동자들의 ‘AI에 대한 신뢰도’와 ‘자기 업무에 대한 자신감’이 AI 결과 수용 방식에 영향을 미칩니다. 특히 AI에 대한 신뢰도가 높고 자기 업무에 대한 자신감이 낮을수록 AI 수용도가 높고 비판적 사고 능력이 저하되는 현상이 관찰되었습니다. 업무에서 AI 생성 결과를 제대로 검수하지 않고 무비판적으로 수용하면 전문성이 떨어질 위험이 있습니다. 사람의 역할이 직접 업무를 수행하는 것에서 AI나 다른 사람이 수행한 결과를 검사하고 평가하는 방향으로 변화함에 따라, 업무 전문성과 함께 비판적 사고를 강화하는 것이 무엇보다 중요합니다. 이를 위해, 교육이 필요하고, 업무 프로세스, 즉 일하는 방식의 변화를 위한 애플리케이션 UI/UX 설계 시에도 사람이 무의식적으로 AI 결과를 승인하지 않고 비판적으로 검토할 수 있도록 디자인해야 합니다. 에이전틱 AI는 순환 구조로 운영됩니다. 에이전트가 결과를 생성하면 담당자가 검토하고, 그 검토 결과는 피드백 데이터로 변환됩니다. 이 데이터가 정제되어 모델 학습에 활용되면 모델이 업데이트되고. 이를 통해 에이전트가 더 나은 결과를 생성하는 선순환이 이루어집니다. 현재 정확도가 60%라 하더라도, 부족한 40%에 대한 피드백을 데이터화하여 지속적으로 성능을 개선할 수 있습니다. 이러한 평가와 개선 과정이 없다면 AI 도입에 투입된 노력이 모두 낭비될 수 있습니다

[그림 8] 에이전틱 AI 순환 체계 (출처: 작성자 제작)

에이전틱 AI 순환 구조

순환구조를 나타내는 다이어그램, 원형으로 연결된 노드들이 서로 연결되어있는 모습 결과생성 -> 결과검토 -> 피드백수집 -> 데이터 정제 -> 강화학습 -> 모델업데이트 -> 결과생성 반복

Agentic AI 시대, 데이터 기반 혁신 추진

AI 기술은 끊임없이 진화하고 있습니다. 디지털 트랜스포메이션에서 ‘AI 트랜스포메이션’으로, 단순 반복 작업을 자동화하는 RPA에서 비즈니스 프로세스 자동화, 즉 ‘하이퍼오토메이션(Hyper-Automation)’으로, 그리고 룰 기반 시스템에서 머신러닝, 딥러닝을 거쳐 생성형 AI를 지나 현재는 ‘에이전틱 AI’ 시대로 접어들었습니다. 이러한 발전은 궁극적으로 AGI(Artificial General Intelligence)와 초지능을 향해 나아가고 있습니다. 많은 빅테크 리더들이 5년 또는 10년 내에 AGI가 등장할 것으로 예측하고 있지만, 중요한 점은 아직 도래하지 않았다는 것과 앞으로도 계속 발전할 것이라는 점입니다. 이러한 기술의 발전 속에서 우리가 잊지 말아야 할 것은 AI의 핵심이 ‘문제 해결’에 있다는 것입니다. 기업이 AI를 효과적으로 활용하기 위해서는 해결해야 할 ‘문제를 정의’하는 것이 무엇보다 중요하며, 이러한 문제를 정의하는 것과 평가하는 것 모두 ‘데이터’에 기반합니다. 기술은 계속해서 변화하지만, 기업 내에 남는 것은 결국 데이터입니다. 그리고 이러한 데이터를 만드는 것은 바로 사람입니다. 따라서, 기업은 핵심 문제를 정의하고 평가하기 위한 데이터 체계와 기준을 수립하는 데 집중해야 하며, 이 과정에서 리더의 역할이 매우 중요합니다. 에이전틱 AI 시대에 성공적인 혁신을 이루기 위해서는 기술 자체보다 데이터 기반의 문제 정의와 평가 체계를 구축하는 데 더 많은 노력을 기울여야 할 것입니다.

☞ 세션 발표자: 삼성SDS AI연구팀 이태희 상무 (taehee23.lee@samsung.com)