Executive Summary
2025년 하반기 이후 공공부문 AI 정책은 개별 기관 단위의 제한적 도입보다 범정부 확산을 중심으로 재편되고 있다. 2026년 예산안에는 공공부문 AI 서비스 지원, AI 행정업무 적용, 범정부 AI 공통기반 구현, 공공데이터 구축 및 개방 확대가 함께 포함되었다. 이는 AI를 단순한 기술사업이 아니라 행정업무와 공공서비스의 운영 방식을 바꾸는 정책 수단으로 보고 있음을 보여준다.
주요 정책 동향
이제 기관은 AI 도입 여부를 검토하는 단계를 넘어, 정책 방향과 조직 현실을 함께 반영한 실행 기준을 마련해야 한다. 공공AX를 성공적으로 추진하려면 '어떤 기술을 쓸 것인가'보다 먼저 '어떤 업무를 바꿀 것인가'를 정해야 한다.
공공AX를 준비하는 기관이 가장 먼저 점검해야 할 핵심 질문은 세 가지다.
이 세 가지 질문에 대한 답이 정리되어야 공공AX는 일회성 시범사업을 넘어 실질적인 행정혁신 과제로 이어질 수 있다.
AI를 적용할 수 있는 업무는 많다. 그러나 예산·인력·데이터 준비 수준·보안 요건·사용자 수용성을 고려하면 모든 기능을 동시에 추진하기는 어렵다. 초기에는 반복성이 높고 결과를 사람이 쉽게 검토할 수 있는 업무부터 시작하는 것이 현실적이다.
우선 적용 가능 업무 영역
| 업무 영역 | 주요 특성 |
|---|---|
| 문서 요약 및 보고서 초안 작성 | • 반복성 높음, 담당자 검토 용이, 즉시 효과 체감 가능 |
| 회의록 정리 및 쟁점 분류 | • 반복 작업, 시간 절감 효과 명확 |
| 규정·지침·법령 탐색 | • 정확도 검증 가능, 근거 추적 용이 |
| 민원 초동 응대 및 유사 사례 검색 | • 빈도 높음, 사용자 수용성 조기 확보 가능 |
| 내부 지식 검색 및 FAQ 자동화 | • 공통기반 연계 적합, 범용성 높음 |
| 협조 요청문·안내문 초안 작성 | • 형식 반복성 높음, 품질 개선 효과 가시적 |
이러한 업무는 AI가 생성한 결과를 담당자가 비교적 쉽게 검토할 수 있고, 업무시간 절감 가능성과 사용자 수용성을 비교적 조기에 점검하기에 적합하다. 따라서 이러한 업무는 조직 내 수용성을 확보하고, 이후 기관 고유업무로 확장하기 위한 초기 과제로 삼기 쉽다.
범정부 공통기반은 문서 생성·공통 검색·기본 질의응답·표준 API처럼 여러 기관이 함께 활용할 수 있는 범용 기능에 적합하다. 반면 기관 내부 규정·고유 민원 유형·지역 현안·사업별 절차·전문 지식은 기관 전용 데이터와 업무 규칙을 반영해야 한다.
공공 AI는 하나의 공통 모델이 모든 업무를 처리하는 방식보다, 공통기반과 기관 특화 기능을 역할에 따라 분리하고 실제 업무에서 자연스럽게 연결하는 방식이 바람직하다. 공통기반은 속도와 효율을 높이고, 기관 지식체계는 정확도와 현장 적합성을 높인다.
이 두 축이 결합될 때 공공 AI는 “일반적인 답변을 제공하는 시스템”을 넘어 “우리 기관의 실제 업무를 지원하는 도구”로 자리 잡을 수 있다.
기관 내부에는 많은 문서와 기록이 존재하지만, 그것이 곧바로 AI 활용 가능성을 의미하지는 않는다. 중요한 것은 자료의 양보다 구조화 정도·최신성·검색 가능성·업무 맥락과의 연결성이다.
예를 들어 민원 검토 업무라면 접수 내용, 관련 법령, 유사 사례, 과거 답변, 기관 내부 기준이 하나의 흐름에서 연결되어야 한다. 정책 검토 업무라면 상위 계획, 내부 보고서, 보도자료, 유사 사업 사례, 최근 쟁점이 함께 검색되고 비교될 수 있어야 한다.
결국 공공AX의 성과는 모델 성능만으로 결정되지 않는다. 업무 정의·데이터 정비·검토 승인·보안 통제·결과 기록체계가 함께 설계될 때 실제 업무 개선으로 이어질 수 있다.
공공AX를 추진할 때 기관이 우선 확립해야 할 원칙은 네 가지다.
| 01 |
반복성과 검토 가능성이 높은 업무부터 시작 초기 과제는 기술적으로 복잡한 업무보다 현장에서 자주 발생하고, 결과물을 사람이 쉽게 검토할 수 있는 업무가 적합하다. 문서 정리, 회의 요약, 규정 탐색, 민원 초동 응대처럼 반복성이 높은 업무는 AI 활용 효과를 비교적 명확하게 점검할 수 있다. 초기 적용의 목적은 완성된 AI 시스템을 한 번에 구축하는 것이 아니다. 조직이 실제로 사용할 수 있는 경험을 만들고, 그 과정에서 데이터 구조, 승인 절차, 보안 요건, 사용자 반응을 함께 검증하는 데 있다. |
| 02 |
기관 지식체계를 검색 가능한 구조로 정비 공공 AI를 실무형 도구로 활용하려면 기관 내부 지식을 검색 증강형 구조로 정비해야 한다. 규정, 지침, 민원 사례, 사업 자료, 보고서, 회의 기록, 통계 자료가 서로 분절되어 있으면 AI는 일반적인 설명 수준에 머물 가능성이 높다. 반대로 필요한 시점에 최신 자료가 검색되고, 생성 과정에서 관련 근거와 함께 연결되면 AI는 기관 업무 맥락을 반영한 보조도구로 발전할 수 있다. 이때 중요한 것은 대규모 저장소를 만드는 일이 아니라, 실제 업무 흐름에 맞게 지식이 연결되도록 설계하는 것이다 |
| 03 |
AI를 별도 시스템이 아니라 업무 흐름 안에 배치 AI 기능은 별도 시스템으로 분리하기보다 기존 업무 흐름 안에 자연스럽게 결합될 때 활용률이 높아진다. 사용자가 별도 화면에 접속해 질문하는 방식보다, 문서 작성, 협업, 결재, 민원 처리 과정에서 필요한 기능이 바로 작동하는 구조가 현장 수용성 측면에서 유리하다. 예를 들어 민원 처리 과정에서는 접수 내용 요약, 관련 규정 탐색, 유사 사례 확인, 답변 초안 작성이 하나의 흐름으로 이어질 수 있다. 정책 검토 과정에서는 회의록 정리, 쟁점 분류, 관련 자료 비교, 보고서 초안 생성, 협조 요청 문구 작성이 연결될 수 있다. 이처럼 단일 기능보다 업무 흐름 전체를 보조하는 구조가 공공AX의 실질적 활용 가능성을 높인다. |
| 04 |
사람 중심의 검토 체계 공공부문에서 AI를 활용할 때에는 결과의 정확성과 활용 범위를 분명히 하는 것이 중요하다. AI는 초안 작성, 정보 탐색, 비교 검토, 요약 정리 등 반복적 업무를 지원하는 데 효과적이다. 반면 공식 판단, 대외 발신, 예외 사안과 같이 신중한 검토가 필요한 영역은 담당자의 확인과 승인 절차를 함께 두는 것이 적절하다. 공공 AI는 사람의 역할을 대체하기보다, 공무원이 반복 업무 부담을 줄이고 보다 중요한 정책 판단과 국민 소통에 집중할 수 있도록 지원하는 방향으로 활용될 필요가 있다. 이러한 운영 원칙은 공공 AI 활용의 안정성과 수용성을 높이는 기반이 될 수 있다. |
사례 | 정부24+ AI 민원서비스
“행정 용어를 아는 이용자 중심에서, 이용자의 자연어를 이해하는 서비스로 고도화”
정부 24+ AI 민원서비스는 삼성SDS가 공공AX 수행 경험과 기술 역량을 바탕으로 구축 및 운영을 진행한 사례로, 공공 AI 서비스가 대국민 서비스에서 어떤 방식으로 구현될 수 있는지를 잘 보여준다. 기존 정부24는 이용자가 필요한 민원 정보를 찾기 위해 비교적 정확한 행정 용어를 입력해야 하는 구조에 가까웠다. 반면 AI 기반 지능형 검색은 일상 언어로 입력된 질문의 의도와 맥락을 분석해 관련 민원과 정보를 연결하는 방식으로 설계되었다. 이는 행정 용어를 아는 이용자 중심의 서비스에서, 이용자의 자연어를 이해하는 서비스로 고도화한 것이다.
정부24+는 법정 민원 데이터, 혜택·공공서비스, 공지사항, FAQ 등으로 구성된 지식베이스를 바탕으로 구축되었다. 또한 단순한 대규모언어모델(LLM, Large Language Model) 단독 응답 방식이 아니라, 검색 증강 생성(RAG, Retrieval-Augmented Generation) 구조를 적용해 답변의 정확성과 일관성을 높였다. 이러한 접근은 공공서비스 환경에서 AI가 단순 안내를 넘어, 실제 민원 탐색과 정보 접근성을 높이는 도구로 활용될 수 있음을 보여준다. 특히 정확도, 응답속도, 동시 처리 성능 등에서 개선이 확인되었다는 점은 대규모 대국민 서비스 환경에서도 AI의 실질적 적용 가능성을 시사한다.
주요 시사점
정부24+ 사례는 공공AX의 출발점이 기술 도입 자체에 있는 것이 아니라, 국민이 체감하는 불편을 중심으로 서비스와 지식체계를 다시 설계하는 데 있음을 보여준다.
공공AX의 실행 전략은 범용 업무 중심의 초기 적용 성과 확보에서 출발해 기관 고유 지식체계 정비, 업무 흐름 내재화, 성과관리 체계 확립으로 이어지는 단계적 방식이 바람직하다.
이는 초기 적용을 통해 조직의 수용성을 확보하고, 동시에 데이터 구조와 운영 원칙을 실제 업무 속에서 검증할 수 있게 해 준다. 또한 단기적 시범성과에 머무르지 않고, 향후 기관 특화 기능과 대국민 서비스 확장으로 연결될 수 있다는 점에서 현실적인 접근이다.
| 1단계 초기 적용 성과 확보 |
2단계 기관 지식체계 정비 |
3단계 업무 흐름 내재화 |
4단계 확산과 성과관리 |
|---|---|---|---|
|
|
|
|
1단계: 초기 적용 성과 확보
초기 단계에서는 문서 요약, 회의록 정리, 규정 탐색, 민원 초동 응대, 지식 검색처럼 반복성이 높고 검토가 쉬운 업무부터 적용해 초기 체감 성과를 확보한다. 이 단계의 목적은 기술 도입 자체가 아니라, 조직이 실제로 활용 가능한 경험을 만드는 데 있다. 초기 적용 과제를 통해 사용자는 AI 활용 방식에 익숙해지고, 기관은 데이터 구조, 보안 요건, 검토 절차, 사용자 반응을 함께 확인할 수 있다.
2단계: 기관 지식체계 정비
다음 단계에서는 기관 내부 지식을 구조화하고, 공통기반과 기관 특화 기능을 연결해야 한다. 공통기반이 제공하는 범용 서비스 위에 기관 전용 데이터와 업무 규칙을 결합하면 답변의 정확도와 실무 적합성을 높일 수 있다. 이 단계에서는 내부 규정, 민원 사례, 사업 자료, 회의 기록, 통계 자료, 보고서 등이 실제 업무 맥락에 맞게 검색되고 활용될 수 있도록 정비하는 것이 중요하다.
3단계: 업무 흐름 내재화
AI 기능은 사용자가 별도 시스템으로 이동하지 않아도 기존 업무 환경 안에서 작동해야 한다. 문서 작성, 협업, 결재, 민원 처리, 정책 검토 흐름 안에 AI 지원 기능이 결합될 때 활용률과 체감 효과가 높아진다. 이 단계부터는 기능 구현보다 현업 사용성이 핵심이 된다. 실제 담당자가 어느 지점에서 AI 도움을 필요로 하는지, 어떤 결과물을 신뢰할 수 있는지, 어떤 경우에 사람의 검토가 필요한지를 구체적으로 정의해야 한다.
4단계: 확산과 성과관리
확산 단계에서는 AI를 단순한 시스템 구축사업이 아니라 업무혁신 과제로 관리해야 한다. 성과평가는 모델 정확도나 기능 개수에만 머물러서는 안 된다.
성과관리 지표 예시
| ☑ 보고서 작성 및 검토 시간 단축 | ☑ 회의록·자료 정리 품질 개선 |
| ☑ 민원 처리 소요 시간 단축 | ☑ 내부 지식 검색 정확도 향상 |
| ☑ 부서 간 협업 속도 개선 | ☑ 사용자 만족도와 재사용률 |
| ☑ AI 결과물의 검토·승인 이력 관리 수준 |
이러한 지표를 통해 AI가 실제 행정 생산성과 정책 품질 개선에 기여하고 있는지 확인할 수 있다.
기관 유형에 따라 AI 적용의 출발점은 달라질 수 있다. 다만 공통 원칙은 같다. 반복성이 높고, 사람이 검토할 수 있으며, 데이터 구조화가 가능한 업무부터 시작해야 한다.
| 기관 유형 | 우선 적용 영역 | 핵심 포인트 |
|---|---|---|
| 중앙행정기관 | • 정책 검토, 법령·지침 탐색, 부처 간 협의 자료, 대국민 설명 자료 초안 | • 여러 부처 자료 비교·정책 쟁점 정리 업무에서 AI 활용 가능성 높음 |
| 지방자치단체 | • 민원 응대, 복지 대상 발굴, 지역 현안 분석, 현장 대응 매뉴얼 | • 지역 특성·주민 문의 유형을 반영한 기관 특화 지식체계가 핵심 |
| 공공기관 | • 이용자 상담, 사업 심사 지원, 내부 규정 검색, 계약·구매 문서 작성 | • 반복적 문의 응대·내부 규정 확인 업무에서 초기 효과 점검 |
| 연구·교육기관 | • 연구 자료 검색, 과제 관리 문서, 학사 행정, 규정 탐색·보고 자료 정리 | • 축적된 연구 자료와 규정을 검색 가능한 지식체계로 전환하는 것이 핵심 |
중앙행정기관
중앙행정기관은 정책 검토, 법령·지침 탐색, 부처 간 협의 자료 작성, 대국민 설명 자료 초안 작성 등 지식 집약 업무부터 시작하는 것이 적합하다. 특히 여러 부처 자료를 비교하거나 정책 쟁점을 정리하는 업무에서 AI 활용 가능성이 높다.
지방자치단체
지방자치단체는 주민 접점 업무에서 출발하는 것이 효과적이다. 민원 응대, 복지 대상 발굴, 지역 현안 분석, 현장 대응 매뉴얼 탐색, 안내문 작성 등이 우선 적용 영역이 될 수 있다. 지역 특성과 주민 문의 유형을 반영한 기관 특화 지식체계가 중요하다.
공공기관
공공기관은 이용자 상담, 사업 심사 지원, 내부 규정 검색, 계약·구매·감사 대응 문서 작성 등 행정과 서비스가 결합된 업무가 적합하다. 특히 반복적인 문의 응대와 내부 규정 확인 업무에서 초기 효과를 점검할 수 있다.
연구기관·교육기관
연구기관과 교육기관은 연구 자료 검색, 과제 관리 문서 작성, 행정 지원, 학사·연구 규정 탐색, 대내외 보고 자료 정리 등 지식 관리형 과제부터 접근하는 것이 유리하다. 축적된 연구 자료와 규정을 어떻게 검색 가능한 지식체계로 전환할지가 핵심이다.
기관 유형별로 우선 과제는 다를 수 있지만, 실행 원칙은 공통으로 적용된다. 차이는 출발점에 있을 뿐이며, 이후에는 기관 고유 지식과 절차를 연결하는 방향으로 확장해야 한다.
공공AX를 준비하는 기관은 다음 질문을 먼저 점검할 필요가 있다.
| 01 | 우리 기관에서 반복성이 높고 검토 가능한 AI 우선 적용 업무는 무엇인가? |
| 02 | 공통기반으로 처리할 기능과 기관 특화가 필요한 기능은 구분되어 있는가? |
| 03 | 내부 규정, 민원 사례, 사업 자료, 회의 기록은 검색 가능한 지식체계로 정비되어 있는가? |
| 04 | AI 결과물의 검토·승인 절차는 마련되어 있는가? |
| 05 | 공식 판단, 대외 발신, 예외 사안 처리에 대한 검토 기준은 명확한가? |
| 06 | 사용자는 실제 업무 흐름 안에서 AI를 자연스럽게 활용할 수 있는가? |
| 07 | 성과평가 지표는 기술 중심이 아니라 업무 개선 중심으로 설계되어 있는가? |
| 08 | AI 활용 과정의 보안, 기록, 접근권한, 품질관리 기준은 마련되어 있는가? |
이 질문에 대한 답이 정리되어야 기관은 AI 도입을 넘어 실제 업무 개선으로 이어지는 실행 전략을 마련할 수 있다.
공공AX의 핵심은 AI 기능을 추가하는 것이 아니라, 기관의 업무 우선순위와 데이터 구조, 검토·승인을 함께 설계하는 데 있다. 범정부 공통기반은 확산의 속도를 높일 수 있지만, 실제 성과는 각 기관이 보유한 지식과 업무 절차를 얼마나 잘 연결하느냐에 따라 달라진다.
따라서 기관은 먼저 우선 적용 업무를 정하고, 내부 지식체계를 정비하며, AI 결과물을 검토·승인하는 승인 구조를 마련해야 한다. 이후 기존 업무 흐름 안에 AI 기능을 배치하고, 성과를 업무 개선 지표로 관리해야 한다.
공공AX는 기술 시연 여부로 평가되어서는 안 된다. 실제 행정 생산성이 높아졌는지, 정책 검토 품질이 개선되었는지, 민원 처리와 국민 서비스 경험이 나아졌는지로 평가되어야 한다.
SAMSUNG SDS
가장 중요한 것은 '무엇부터 시작할 것인가?', '공통 기반과 기관 특화 영역을 어떻게 나눌 것인가?', '내부 데이터와 지식은 AI가 활용할 수 있는 상태인가?'라는 세 가지 핵심 질문에 대한 답을 명확히 하는 것입니다.
반복성이 높고, 결과를 사람이 쉽게 검토할 수 있는 업무부터 시작하는 것이 좋습니다. 문서 요약, 회의록 정리, 규정 탐색, 민원 초동 응대, 내부 지식 검색 등이 초기 적용에 적합합니다.
범정부 공통기반은 문서 생성, 공통 검색, 기본 질의응답, 표준 API 등 여러 기관이 함께 활용할 수 있는 범용 기능에 적합합니다. 이를 통해 속도와 효율성을 높일 수 있습니다.
기관 내부 규정, 고유 민원 유형, 지역 현안, 사업별 절차, 전문 지식 등 기관 전용 데이터와 업무 규칙을 반영해야 합니다. 공통기반과 기관 특화 기능을 분리하고 연결하여 정확도와 현장 적합성을 높여야 합니다.
자료의 양보다 구조화 정도, 최신성, 검색 가능성, 업무 맥락과의 연결성이 중요합니다. 내부 규정, 민원 사례, 사업 자료, 보고서, 회의 기록 등이 실제 업무 흐름에 맞게 연결되도록 설계해야 합니다.
반복성과 검토 가능성이 높은 업무부터 시작하고, 기관 지식체계를 검색 가능한 구조로 정비하며, AI를 별도 시스템이 아닌 업무 흐름 안에 배치하고, 사람 중심의 검토 체계를 확립해야 합니다.
▶ 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 기고자에게 저작권이 있습니다.
▶ 해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.
삼성SDS 전략마케팅팀
Corporate Strategy & Business Development, and Customer Success Lead
원문 다운로드