Executive Summary
※ 본 리포트는 ‘26년 5월 발간된 ‘GenAI 의사결정 관여자 670명의 목소리를 통해 확인한 국내 기업의 GenAI 도입 현황’ 시리즈의 두 번째 글입니다. 1편 「 GenAI 도입의 결정적 순간 – 어떻게 도입하고, 누구와 함께할 것인가」에서는 도입 방식과 파트너에 대해 다뤘다면, 이번 편에서는 의사결정 프로세스와 주요 정보에 초점을 맞춥니다.
GenAI는 기존 IT 솔루션과 비교할 수 없는 기술의 진화 및 확산 속도를 보이고 있습니다. 이러한 상황 속에서 기업들은 복잡한 절차를 생략하고 빠르게 의사결정을 내리고 싶은 유혹에 빠지기도 합니다. 하지만 빠르게 결정한다고 해서 좋은 결과가 보장되는 것은 아닙니다. 그렇다고 모든 의사결정 절차를 빠짐없이 진행하려고 하니, 그 사이 속도에 뒤처질 것 같은 불안함이 생깁니다. 속도와 철저함, 이 두 가지를 모두 잡으려면 어떻게 해야 할까요?
삼성SDS는 국내 기업의 GenAI 의사결정 관여자 670명에게 도입 과정의 단계별 경험을 물었습니다. 이 리포트는 그 결과를 바탕으로, 국내 기업들의 GenAI 도입 여정이 어떤 모양을 하고 있는지를 정리한 'GenAI 도입 여정 지도'입니다.
GenAI 도입은 일반적으로 다섯 단계를 거칩니다. 조사 결과, 도입 고려(53%)와 탐색/비교(52%) 단계를 거치는 기업이 절반가량이며, 이후 도입 요건 정의(47%), 테스트/PoC(37%)로 갈수록 진행 비율이 감소하는 패턴을 보입니다.
[그림 1] GenAI 도입 완료한 기업들의 단계별 진행률 (출처: 삼성SDS)
5개 단계 모두를 충실히 거치는 기업은 17%에 불과하며, 2~3개 단계를 거치는 기업이 절반 이상(56%)입니다. 도입 방식에 따라 패턴도 달라져, '엔터프라이즈 버전' 도입 기업은 모든 단계의 진행률이 평균보다 높아 가장 체계적으로 단계를 밟는 반면, '구독료 지원' 방식은 탐색 이후 단계가 비교적 생략·간소화되는 경향을 보입니다.
[그림 2] GenAI 도입 완료한 기업들의 진행 단계 수 (출처: 삼성SDS)
GenAI 도입에 소요되는 기간을 살펴보면, 평균적으로는 56%의 기업들이 6개월 이내 도입을 완료한 것으로 나타납니다. 다만 이 또한 도입 방식에 따라 편차가 있습니다.
‘구독료 지원’ 방식은 70%가 6개월 이내 도입이 완료되고 ‘엔터프라이즈 버전 도입’ 방식을 택한 기업들은 6개월 이내 도입이 완료되는 비율이 61%로 ‘구독료 지원’에 비해 평균적으로 더 많은 기간이 소요됩니다. 자체 구축 방식은 64%가 6개월 이상, 1년 이상 소요 비율도 24%에 달합니다. 또한 기업 규모가 커질수록 GenAI 도입 의사결정에 더 오랜 기간이 소요됩니다.
[그림 3] GenAI 도입까지 소요된 기간 (출처: 삼성SDS)
GenAI 도입에서 흔히 마주하는 함정은 '필요한 사람을 필요한 시점에 끌어들이지 못하는 것'입니다. 이번 조사는 단계별로 누가 핵심 의사결정자이고 어떤 부서가 개입하는지를 명확히 보여줍니다.
전 단계 — IT 임원 (CIO, CTO, CDO)
IT 임원은 모든 단계에서 1위 또는 상위 등장에 등장하며, 도입 여정 전체를 이끄는 가장 중요한 의사결정자 역할을 수행합니다.
① 도입 고려 — CEO 개입 (23%)
도입의 출발점에서 CEO가 방향을 제시합니다. CEO는 '시작'과 '끝'에 결정적으로 개입하는 패턴이 나타납니다.
② 탐색/비교 — IT 부서장(23%)의 참여 확대
IT 부서장이 여러 솔루션의 비교 검토를 통해 GenAI 도입 프로젝트 착수의 기반을 마련합니다.
③ 도입 요건 정의 — 정보보안 부서장(CSO) 급부상 (15%)
정보보안 부서장(CSO)은 이전 단계 대비 가장 큰 폭으로 영향력이 상승합니다. 도입 요건 정의가 사실상 '보안 검토 본격화 단계'라는 사실을 보여줍니다.
④ 테스트/PoC — IT 실무자 1위 부상 (29%)
유일하게 임원이 아닌 실무자가 핵심 의사결정자로 등장하는 단계로, 실제 사용 적합성과 기술적 검증의 책임이 실무자에게 집중되는 것으로 보입니다.
⑤ 의사결정/구매 — CEO 재등장 (22%)
최종 승인 및 구매가 이루어지는 마무리 단계에서 CEO의 영향력이 다시 급증합니다.
[그림4] ] GenAI 도입 단계별 핵심 의사결정자 (출처: 삼성SDS)
GenAI 자체가 GenAI 도입 정보 탐색에 활용되고 있습니다. 약 1년 반 전(9%) 대비 GenAI의 활용률 6배 이상 급증하며, 컨퍼런스/세미나(49%), 업체 담당자(42%)를 모두 앞질렀습니다.
이는 정보 탐색 행태의 근본적 변화를 시사2합니다. 지난 20년간 검색 엔진 중심이었던 기업의 정보 탐색이, 생성형 AI 중심으로 전환되고 있는 것입니다. 실제로 GenAI가 도입 의사결정에 도움이 되지 않는다는 응답은 1.5%에 불과합니다.
GenAI가 주로 활용되는 영역은 최신 AI 트렌드 파악(43%), 보고서 작성(38%), 솔루션 비교 분석(32%), 활용 사례 발굴(30%) 등으로, 전반적인 동향부터 깊이 있는 기술 영역까지 두루 활용되고 있습니다.
[그림 5] 2024년 대비 GenAl 도입 정보 채널 활용률 변화 (출처: 삼성SDS)
전 단계에 걸쳐 GenAI의 영향력이 가장 높지만, 초기에는 GenAI 활용이 68%로 가장 높고(광범위한 정보를 빠르게 소화), 최종 구매 단계로 갈수록 리서치사·컨설팅사, 컨퍼런스 등 공신력 있는 채널을 통해 검증하고 확신을 다지는 패턴을 보입니다.
[그림6] GenAl 도입 단계별 정보 탐색 채널 (출처: 삼성SDS)
GenAI 도입은 여러 부서와 인물이 단계마다 다른 무게로 참여하는 복합적인 의사결정 과정이며, 그 모양은 기업마다 다릅니다. 도입의 속도와 성공률은 결국 '단계마다 누구를, 어떤 정보로 움직일 것인가'를 정의하고 우리 회사에 맞게 설계하는 것에서 판가름 됩니다.
GenAI 도입은 더 이상 새로운 영역이 아니지만, 모든 기업에 여전히 생경한 경험입니다. 다른 기업의 평균적인 도입 여정이 어떤 모양을 하고 있는지 알고, 그 위에 우리 회사가 가야 할 길을 그려놓고 출발할 수 있다면 시행착오를 상당 부분 줄일 수 있습니다. GenAI 도입 여정의 지도를 손에 쥐고 출발한 기업과 그렇지 않은 기업의 결과는 결코 같지 않습니다.
※ 산업별·규모별 세부 데이터, 추가 차트 및 상세 분석 내용은 첨부된 리포트에서 확인하실 수 있습니다.
