불확실성의 시대, 금융 산업의 방향을 묻다 (2) 판단하고 실행하는 AI, 그 이후의 과제

2025-07-11 김정현

세미나 다시 보기

금융사 생성형 AI 현안과 과제 ☞ 채종훈 삼성SDS 금융컨설팅팀 프로 (jh1350.chae@samsung.com)

해당 아티클은 2025년 5월, 삼성SDS가 대외 고객을 대상으로 진행한 「금융 세미나」 행사 중, 삼성SDS 금융컨설팅팀 박정미 상무가 발표한 ‘금융 환경 변화의 파고를 넘기 위한 혁신 방안’과 채종훈 프로가 발표한 ‘금융사 생성형 AI 현안과 과제’ 세션 내용을 기반으로 작성되었으며 1, 2편으로 나누어 게재됩니다.

사람 없이도 돌아가는 금융 업무, 현실이 되다

생성형 AI 기술은 나날이 발전하고 있으며, 이제 생성형 AI 모델은 파라미터 수를 줄이며 경량화되었지만, 동시에 복잡한 금융 업무의 문맥을 이해하고 요약하거나, 보고서 초안을 작성하는 수준까지 확장되었습니다. 최근 금융 업계에서는 단순 업무를 자동화했던 RPA를 넘어 Hyper Automation을 주목하고 있습니다. Hyper Automation은 단순히 작업을 자동화하는 데 그치지 않고, 업무 기획 단계부터 실행, 모니터링, 문제 해결까지 유기적으로 연결하여 조직 전체의 스마트화와 효율화를 목표로 합니다. 이를 통해 업무 처리 속도는 물론 고객 대응 속도까지 획기적으로 높일 수 있습니다.

[그림 1] AI Agent의 3단계 진화 (출처: 발표자 제작)

이러한 기술 발전은 Hyper Automation의 핵심 축인 AI Agent의 단계적 진화를 촉진하고 있습니다. AI Agent는 단일 업무를 수행하는 수준에서 출발하여, 복합 업무를 처리하는 Multi Agent, 그리고 업무를 끝까지 완결하는 자율형 Agent로 발전하고 있습니다.

첫 번째 단계는 단일 업무를 수행하는 Single Agent로 금융 분야에서는 주로 지식 검색이나 요약에 활용됩니다. 예를 들어, 콜센터 상담 녹취 데이터를 음성에서 텍스트로 변환한 뒤 핵심 키워드를 추출하거나 간단 요약을 생성하는 역할이 해당됩니다.

두 번째 단계인 Multi Agent는 여러 에이전트가 역할을 분담하여 복합 업무를 협력적으로 수행합니다. 이 단계에서는 투자나 상품 전략 분석 리포트 등의 금융 전문 콘텐츠를 생성하거나 맞춤형 제안을 수행할 수 있습니다. 예를 들어, 금융 상품 비교 요청이 들어오면 한 에이전트는 사용자의 의도를 해석하고, 다른 에이전트는 상품 데이터를 수집하고 정제하며, 또 다른 에이전트는 비교 분석을 수행하고, 마지막으로 상위 에이전트가 결과를 통합해 사용자가 이해하기 쉬운 방식으로 제시합니다.

세 번째 단계는 기획, 실행, 피드백 수집까지 전 과정을 스스로 관리하는 Agentic AI입니다. 이 단계에서 금융 회사는 각종 AI 및 Agent 기술을 통해 향후 투자 리포트 자동 작성, 자산 관리 제안, 고객 맞춤형 금융 컨설팅, 계약 체결 등의 업무를 End-to-End로 자체 수행하는 단계에 도달할 것으로 전망하고 있습니다.

[그림 2] 삼성SDS의 AI Agent 기반 솔루션 (출처: 발표자 제작)

현재 금융 분야에서는 생성형 AI를 활용한 Multi Agent 단계에서 완전 자율 단계로 넘어가는 과도기적 상황에 있습니다. Agentic AI 개념이 제시하는 Workflow는 단순한 RPA를 넘어 업무의 기획실행모니터링피드백 단계를 모두 포함합니다. 모든 과정은 각각의 Agent가 독립된 작업을 수행하고, 서로간에 결과 데이터를 주고받는 방식으로 구성됩니다. 이 같은 다층적 Agent 구조를 실현하기 위해서는 에이전트 간 역할 분담과 원활한 데이터 및 시스템 연동이 필수적입니다. 삼성SDS의 FabriX는 에이전트 학습과 데이터 통합을, Brity Automation은 하이퍼오토메이션 기반 업무 흐름을, Brity Copilot은 사용자의 실시간 협업과 의사 결정을 각각 뒷받침하면서 유기적으로 연결되어 Agentic AI를 실질적으로 실현하는 데 효과적입니다.

다만, 이러한 기술적 기반이 실제 성과로 이어지기 위해서는 이를 수용할 조직의 준비가 선행되어야 합니다. 금융 회사는 기술 적용 이전에 AI Agent의 역할과 프로세스를 명확히 정의하고, 도메인 전문가와 개발자 간의 긴밀한 협력을 통해 AI가 정확하고 일관되게 작동하도록 체계적으로 준비해야 합니다. 또한 금융 업무의 특수성과 규제 요건에 대응하는 방안 또한 고려되어야 합니다.

AI 도입보다 중요한 것은 AI를 책임지는 능력

금융권에 AI 도입이 확산하면서, 기술 자체보다 그것을 어떻게 통제하고 신뢰할 수 있는 방식으로 운영할 것인가에 대한 논의가 더 중요해지고 있습니다. 금융위원회가 2024년 8월 발표한 ‘망 분리 개선 로드맵’은 금융 회사가 내부망 환경에서도 외부 생성형 AI나 SaaS 서비스를 제한적으로 활용할 수 있는 길을 열었습니다. 하지만 기술을 활용할 수 있게 되었다는 것과 실제 운영이 가능하다는 것은 전혀 다른 문제입니다. 단말 보안, API 암호화, 데이터 저장 및 접근 통제, 로그 모니터링 등 여러 보안 요건들을 반드시 충족해야만 하기 때문입니다.

[그림 3] AI 관련 법·규제 현황 (출처: 발표자 제작)

주요규제

금융위(`21.7) "금융분야 AI 가이드라인"

금융위(`22.8) "금융분야 AI 개발·활용 안내서"

금보원(`23.4) "금융분야 AI 보안 가이드라인"

AI 7대 원칙 준수사항 금융위원회(`24.12)

AI 거버넌스	1. 최고경영자를 포함한 경영진은 AI 개발·활용에 대한 관심을 갖고 역할과 책임을 분담해야 함 2. AI 활용 전단계에서는 금융·AI 등 관련 법규를 준수해야 함 3. 현 단계에서는 AI는 업무의 보조 수단이므로 최종 의사결정과 그에 대한 책임은 임직원이 수행
AI 개발단계	4. AI 개발 과정에서 신뢰할 수 있는 데이터와 모델을 사용해야 함 5. AI 설계·학습 등 전 과정에서 금융 안정성 위험을 최소화해야 함
AI 활용단계	6. AI 활용 시 금융소비자의 이익을 최우선으로 해야 함 7. AI 활용 시 보안성 기준 및 점검/개선 체계를 마련해야 함

인공지능 기본법 시행 예정(`26.1)

투명성 확보 의무

: 고영향/생성형 AI 사용 시 사전 고지
: 생성형 AI 결과물 AI 생성 표시
: 가상 음향/이미지/영상 제공 시 AI 생성 표시

안정성 확보 의무

: 위험 식별/평가 및 완화 조치
: 안전사고 모니터링 및 대응체계 구축
: 이행결과 과학기술정통부 제출

고영향 AI 관련 추가 의무

: 위험관리방안 수립/운영
: AI 결과에 대한 설명 방안 마련
: 이용자 보호방안 수립
: 사람의 관리감독 체계 구축

규제기관의 시선도 달라지고 있습니다. 이제는 “AI를 도입했는가”가 아니라 “어떻게 관리하고 있는가”, “그 결과가 어떤 기준과 절차로 생성되었는가”를 더 중요하게 보고 있는 것입니다. AI 모델이 스스로 판단하고 업무를 수행하는 Agentic AI 구조로 진화하면서, 모델이 생성한 결과에 대해 설명 가능하고 신뢰할 수 있는지가 운영의 핵심 기준으로 자리 잡히고 있습니다. 이에 따라서 데이터 편향성 검증, 알고리즘 투명성 확보, 결과 정합성에 대한 주기적인 점검은 이제 선택이 아닌 전제조건으로 받아들여지고 있습니다. 이제, 금융 기업들은 기업 전체의 거버넌스 체계와 데이터 책임 구조, 리스크 대응 체계가 잘 갖추어져 있는지 점검하고, 관리해야 합니다.

AI 거버넌스 체계 수립은 이제 기술 담당 부서만의 과제가 아닙니다. 실제 현업이 참여하여 도메인 전문성을 반영한 프롬프트 설계와 결과 검증 기준을 함께 만들고, 리스크 관리 조직과 협력해 단계별 검증 책임을 정의하는 식의 전사적 협업 체계가 필요합니다. 모델을 학습시킬 때 어떤 데이터를 활용했는지, 학습된 결과가 어떤 규칙에 기반해 작동하는지를 기록하고, 정기적으로 편향성정합성설명 가능성 등에 대한 사내 점검을 수행하는 구조가 요구됩니다. 특히 금융 분야는 대출 심사, 자산 추천, 리스크 평가 등 고객의 권리 및 의무에 직결되는 업무가 많은 만큼, 이 같은 거버넌스 체계 없이는 AI 활용 자체가 리스크로 작용할 수 있습니다.

[그림 4] 책임 있는 AI 운영을 위한 고려 사항 (출처: 작성자 제작)

이런 흐름에 따라 금융사 내부에서도 AI 운영을 위한 전담조직 체계를 새롭게 구성하는 사례가 늘고 있습니다. 전사 AI 운영위원회가 정책과 방향성을 총괄하고, 리스크 관리 조직이 개발 초기부터 윤리성과 안정성을 검토하는 한편, 운영실무팀과 감사팀이 실제 서비스의 성능과 통제 상태를 주기적으로 점검하는 구조가 보편화되고 있습니다. 이는 단지 규제를 피하기 위한 구조가 아니라, 불확실성을 줄이고 지속적으로 AI를 활용하기 위한 조직 역량 확보의 일환으로 보아야 할 것입니다.

아직까지 모든 금융사에 이 같은 체계가 완비된 것은 아니지만, 적어도 공통된 인식은 형성되고 있습니다. AI는 기술 이전에 운영 체계이며, 조직 전반이 준비되지 않으면 어느 순간 그 기술이 부담으로 되돌아올 수 있다는 것입니다. 삼성SDS는 다수의 금융권 프로젝트를 수행하면서 내재된 AI 운영 역량을 바탕으로 다양한 금융 고객사에 AI Agent 기반 시스템 구축 및 운영을 지원하고 있습니다. 이처럼 실제 구축과 운영 경험을 풍부하게 갖춘 파트너와의 협업은 운영 안정성이 중요한 금융사에 시행착오를 줄이는 현실적인 선택지가 될 수 있습니다.

이제는 금융사가 ‘AI를 도입할 수 있는가’보다 ‘AI를 어떻게 책임질 수 있는가’를 묻는 시기입니다. 금융사는 이 변화된 무게 중심을 인식하고, 기술 못지않게 거버넌스와 규제 대응 역량을 전략적으로 준비해야 할 때입니다.

기술 도입을 넘어 지속 가능한 운영으로

지금까지 살펴본 바와 같이 금융 산업은 지금 복잡한 전환의 중심에 서 있습니다. 모바일 중심의 고객 경험, 생성형 AI와 Agentic AI의 부상은 빠르게 현실화되고 있습니다. 그러나, 기술이 고도화되는 가운데 이를 수용할 조직 구조와 인력, 그리고 운영 체계는 여전히 많은 과제를 안고 있습니다.

변화는 더 이상 선택이 아닌 필수가 되었습니다. 고객의 80%가 모바일을 통해 금융 서비스를 이용하는 환경에서 금융 회사는 단순한 채널 전략을 넘어 고객 여정 전체를 재설계해야 합니다. AI 기술의 진화는 Agentic AI의 도입과 함께 금융 업무의 근본적 변화를 이끌고 있으며, 이와 함께 거버넌스와 규제 대응의 중요성이 커지고 있습니다. 내부 인력만으로는 감당하기 어려운 전문성과 규모의 문제는 글로벌 협업 등 외부 역량 활용으로 이어지고, 단기 리소스 대응을 넘어 전략적 운영 구조로 자리 잡아가고 있습니다.

이러한 흐름은 단순히 효율화를 넘어, 금융 조직의 근간을 재편하는 방향으로 이어지고 있습니다. 생성형 AI와 Agent기반 업무 자동화는 단순 반복 작업을 대체하는 수준을 넘어, 기획부터 실행까지 금융 업무의 전반적인 과정에 대해 자율적으로 목표와 계획을 수립하고 상황 대응까지 가능하도록 진화를 거듭하고 있습니다.

[그림 5] 금융 산업의 고려 사항 (출처: 작성자 제작)

기술 혁신은 빠르게 진행되지만, 금융은 본질적으로 신뢰와 안정성을 확보해야 하는 산업입니다. 이로 인해 금융사는 기술과 신뢰 사이에서 균형을 유지하며, 기술만이 아닌 역할 정의, 프로세스 설계, 리스크 대응, 거버넌스 체계를 총체적으로 재정비해야 하는 과제를 안고 있습니다. 특히 규제 기관의 시선 변화는 이 전환의 본질을 잘 보여줍니다. AI 모델이 내놓은 결과를 설명할 수 있어야 하고, 결과의 정합성과 편향성, 보안성까지 사전에 검증하고 제어할 수 있어야 합니다. 기술의 도입은 시작에 불과하고, 진짜 경쟁력은 그 기술을 얼마나 안정적으로, 책임 있게 운영할 수 있느냐에 달려 있습니다.

이제 금융사는 기술을 따로, 전략을 따로 보는 시각에서 벗어나야 합니다. 모바일 혁신, 글로벌 협업, AI 기반 자동화, 거버넌스 구축이라는 각각의 변화는 별개의 흐름이 아니라 금융 산업이 어디로 향하는지를 보여주는 방향성입니다. 이제 필요한 것은 기술이 작동할 수 있는 구조와 그 구조를 일관되게 운영할 수 있는 내부 체계입니다. 지금은 속도보다 방향, 빠르게 움직이는 것보다는 오래 움직일 수 있는 기반을 제대로 세우는 일입니다. 불확실성의 시대, 금융 산업의 변화 방향을 함께 선도할 수 있는 체계적인 역량을 가진 파트너와 함께 지속 가능한 운영 기반을 준비해야 할 때입니다.

불확실성의 시대, 금융 산업의 방향을 묻다