이 글은 IDG의 아티클을 전재하여 제공합니다.
[원문보기] : https://www.ciokorea.com/ciostory/329349
고객 서비스, 소프트웨어 및 개발, 크리에이티브 및 지식 업무에서 생성형 AI가 미국의 연간 생산성에 미칠 수 있는 효용이 1조 달러에 이르는 것으로 분석됩니다. 생성형 AI는 비교적 새로운 기술임에도 불구하고 잠재적 비즈니스 가치를 고려할 때 이제 이 기술이 없는 세상을 상상하기는 어렵습니다. 지난 11월에 발표된 IDC 연구 보고서에서 AI 혁신을 담당하는 2,100명 이상의 비즈니스 리더와 의사결정권자를 대상으로 실시한 설문조사에 따르면, AI를 이미 사용하고 있는 기업의 71%가 14개월 이내에 1달러당 평균 3.50달러의 투자 수익을 보고 있는 것으로 나타났습니다. 기업들은 또 향후 12개월 동안 5% 이상의 생산성 향상과 최소 5%의 인력 감축이 가능할 것으로 예상하고 있습니다.
EY는 생성형 AI를 광범위하게 배포하는 기업 중 하나입니다. 내부적으로는 40만 명에 달하는 전 직원이 다양한 업무에 걸쳐 대화형 AI를 사용하고 있으며, 외부적으로는 고객사를 지원하기 위해 AI를 활용하고 있습니다. EY의 미주 기술 리더인 매트 배링턴은 전반적으로 생산성이 15~20% 향상됐다고 합니다. 특히, 잠재적 공급업체를 온보딩할 때 대량의 문서를 분석하는 데 생성형 AI를 사용한 결과 생산성이 70~80% 향상되었습니다. 나란히 비교해 본 결과, 더 적은 인원으로 더 높은 수준의 추적성을 확보해 더 효과적인 대응을 하고 있음을 확인했습니다. EY는 또한 다른 기업들이 생성형 AI를 어떻게 활용하고 있는지 조사하고 있습니다. 지난 10월 1,200명의 글로벌 CEO를 대상으로 실시한 설문조사에서 거의 모든 기업이 생성형 AI에 상당한 투자를 하고 있거나 계획하고 있다고 응답했습니다. 또한 전 세계 고위 경영진의 75%는 직원들의 생산성이 향상될 것이라고 답했습니다.
초기 연구 및 사례에 따르면, 기업이 생산성 향상을 가장 크게 체감하는 세 가지 직무 영역은 고객 서비스, 소프트웨어 개발, 일반 창의 및 지식 업무인 것으로 드러났습니다.
생성형 AI와 고객 서비스
고객 서비스는 생성형 AI의 주요 사용 사례 중 하나입니다. 벤더들이 플랫폼에 도구를 계속 추가함에 따라 기업이 이를 도입하기가 점점 더 쉬워지고 있습니다. 스탠포드 대학교와 MIT의 연구진은 5,000명 이상의 고객 지원 상담원 데이터를 기반으로 지난 4월에 발표한 연구를 공동으로 진행했습니다. 연구 결과, 상담원들은 생성형 AI를 사용함으로써 평균적으로 시간당 14% 더 많은 문제를 해결할 수 있었습니다. 신입 및 저숙련 상담원의 경우, 34% 개선된 결과를 보였습니다. 또한 AI는 상담원의 공감 능력 향상에도 도움이 되어 더 긍정적인 고객 경험으로 이어졌다고 연구진은 밝혔습니다.
대기업 비즈니스 리더들이 향후 12~18개월 동안 고객 서비스에 생성형 AI를 사용하려는 것이 놀랍지 않은 셈입니다. 실제로 얼리어답터 기업들이 가장 큰 이익을 기대하는 분야이기도 합니다. 그리고 그 영향은 이미 일부 산업에서 나타나고 있습니다. 지난 2월, 맥킨지는 고객 서비스에 생성형 AI를 사용하는 통신사의 84%가 비용 절감 효과를 보고 있으며, 그중 45%는 6% 이상 비용을 절감했다는 설문조사 결과를 발표했습니다.
생성형 AI와 소프트웨어 개발
엔터프라이즈 소프트웨어 회사 플랜뷰(Planview)는 생성형 AI가 전체 작업을 대신하는 것이 아니라 생산성 향상 도구로 활용될 때 가치가 크다는 사실을 포착했습니다. 이 회사의 수석 데이터 과학자인 리치 소넨블릭은 반복적인 코딩 작업에서 생산성이 5%에서 20%까지 크게 향상되는 것을 확인했다고 합니다. 이러한 개선의 대부분은 주니어 직원들에게 집중되어 있었습니다. AI 모델은 베스트 프랙티스 코드 시스템을 제시하여 주니어 개발자가 기술을 배우고 연마하는 데 도움을 줄 수 있습니다.
지난 2월, 글로벌 경영 및 전략 컨설팅 회사인 지노브와 디지털 서비스 혁신 회사인 네스 디지털 엔지니어링은 실제 엔지니어링 환경에서 100명 이상의 소프트웨어 엔지니어를 대상으로 한 심층 연구를 발표했습니다. 연구는 엔지니어들이 생성형 AI를 사용할 경우 기존 코드 업데이트 시간은 70%, 코드 테스트 시간은 41%, 새 코드 작성 시간은 32% 단축됐다는 내용을 담고 있습니다.
코드 업데이트의 경우, 생성형 AI는 코드 베이스에 이미 존재하는 함수를 사용하는 데 능숙했으며 코드 성능 개선을 제안하는 데 매우 유용했다고 연구원들은 전했습니다. 테스트에서도 생성형 AI는 테스트 케이스를 생성하고 테스트용 더미 데이터를 생성하는 데 특히 능숙했습니다.
그러나 새로운 코드 개발에서는 학습 데이터의 가용성과 프로젝트 맥락에 대한 이해가 부족했기에 효과가 거의 없었습니다. 전반적으로 생성형 AI를 사용하면 작업 완료 시간이 38% 단축되었으며, 시니어 엔지니어 층에서 가장 큰 효과가 나타났습니다. 숙련된 전문가들은 AI의 제안을 더 잘 이해하고 실수를 코드에 추가하기 전에 수정할 수 있었습니다. 또한 필요한 결과를 얻기 위해 더 적은 수의 프롬프트가 필요했고, 기존 코드 베이스와 프로젝트 요구 사항을 더 잘 이해하고 있었기 때문에 프롬프트에 더 많은 컨텍스트를 제공할 수 있었습니다.
하지만 생성형 AI가 도움이 될 수 있는 것은 대규모 소프트웨어 개발 프로젝트뿐만이 아닙니다. 작은 스크립트나 쿼리를 작성하는 데도 사용할 수 있어 비기술직 직원들의 역량을 강화할 수 있습니다. 경영 컨설팅 회사인 아레트는 약 1년 동안 다른 생성형 AI를 사용하여 이러한 작업을 수행해 왔습니다. 회사의 디지털 기술 서비스 담당 부사장인 프리야 이라가바라푸는 새로운 기술을 직접 적용하고 성장통을 바로 파악한다고 합니다. 이 회사에서 나타난 즉각적인 생산성 향상 효과 중 하나는 직원들이 더 이상 복잡한 쿼리와 특수 스크립트를 작성하기 위해 회사의 데이터 엑셀런스 센터 팀에 문의할 필요가 없다는 것입니다. 20명으로 구성된 이 팀은 이제 다른 일을 담당합니다.
한편 코딩에 AI를 사용하면 단점도 있습니다. 개발자 도구 회사인 깃클리어(GitClear)에 따르면, 4년간 1억 5,000만 줄 이상의 변경된 코드를 분석한 결과 코드 품질 하락의 두 가지 징후인 코드 이탈률 증가와 코드 재사용률 감소가 발견됐습니다. 회사는 올해 코드 이탈률이 7퍼센트가 될 것으로 예상하고 있으며, 이는 AI 세대 이전보다 두 배나 높은 수치입니다. 생산성과 관련된 경고 신호는 이것뿐만이 아닙니다. 매년 구글은 수만 명의 개발자를 대상으로 설문조사를 실시하여 연례 데브옵스 현황 보고서를 발표하는데, 올해도 AI가 주요 화두였습니다. 응답자들은 코드 작성 및 최적화, 보안 분석, 새로운 기술 학습, 버그 식별, 테스트 작성, 문서 작성 등에 있어 AI가 이미 가치를 발휘하고 있다고 답했습니다. 그러나 보고서의 저자에 따르면 설문조사 데이터에 따르면 AI는 팀 성과와 소프트웨어 제공 성과에 중립적이거나 심지어 부정적인 영향을 미치는 것으로 나타났습니다.
오렐리 미디어의 신기술 콘텐츠 담당 부사장인 마이크 루키데스는 많은 사람들이 프로그래머의 생산성에 대해 이야기하곤 하지만 그 이득은 실제로 작을 수 있다고 합니다. 대기업 규모에서는 생산성이 크게 향상되지 않은 것으로 보일 수도 있기 때문입니다. 11월에 발표된 오렐리의 자체 설문조사에서 생성형 AI가 가장 많이 사용되는 분야는 소프트웨어 개발이었으며, 34%의 기업이 실험 중이고 44%는 업무에 활용하고 있다고 답했습니다. 결국에는 모든 사람들이 AI 도구를 필수적이고 신뢰할 수 있는 도구로 사용하게 될 것이라고 생각하지만, 기업들이 코딩 속도를 측정하는 것 이상의 것을 고려해야 합니다. 만약 코드 작성이 진짜 문제가 아니라면 어떨까요? 고객의 문제가 무엇인지 이해하는 것이 진짜 문제라면 어떨까요? 코드 작성 시간을 줄이고 그 시간을 고객에 대한 이해와 고객에게 적합한 무언가를 구축하는 방법에 투자할 수 있을 것입니다.
생성형 AI와 지식 작업
생성형 AI는 특히 텍스트 생성에 능숙하기 때문에 지식 작업자에게 매우 유용합니다. 하지만 생성형 AI의 창의성이 처음으로 대중에게 알려진 영역은 사실 이미지였습니다. 달리 2와 미드저니는 인간을 속이는 이미지를 만들어냈고, 심지어 2022년 초에 상을 수상하기도 했습니다. 따라서 크리에이티브 전문가들이 내부 커뮤니케이션을 보완하고 다른 목적으로 마케팅 및 영업 자료를 제작하는 데 이러한 도구를 사용하는 것은 놀라운 일이 아닙니다. 어도비 리서치가 2,500명 이상의 크리에이티브 전문가를 대상으로 실시한 설문조사를 바탕으로 지난 2월에 발표한 연구에 따르면, 83%가 생성형 AI 툴을 사용한다고 답했으며, 66%는 더 나은 콘텐츠를 제작하고 58%는 제작하는 콘텐츠의 양이 증가했다고 답했습니다.
하지만 생성형 AI는 다른 크리에이티브 분야의 지식 작업자에게도 도움을 줄 수 있습니다. 엔터프라이즈 소프트웨어 대기업 SAP의 수석부사장 겸 고객 성공 부문 디지털 책임자인 샘 마스리는 생성형 AI가 처음 등장했을 때 리소스의 생산성을 높일 수 있는 엄청난 기회를 발견했다고 언급했습니다. 600명의 인력을 모아 샌드박스에서 생성형 AI를 테스트했다고 합니다. 54개 카테고리의 다양한 사용 사례를 시도했으며, 가장 성공적인 사례 중 일부는 산업 및 고객 연구 분야였다고 밝혔습니다. 그 결과 생성형 AI를 도입하기 전과 동일한 작업을 동일한 품질 또는 더 나은 품질로 수행하는 데 걸리는 시간을 46% 절약할 수 있었습니다.
인원을 줄이는 것이 목적이 아니고, 원 범위와 생산성을 높여 한 사람이 더 많은 고객을 더 빠른 속도로 지원할 수 있도록 하는 것입니다. SAP는 현재 직원들이 콘텐츠, 그래픽 등을 제작할 수 있도록 전사적 플랫폼에서 호스팅되는 수십 가지의 다양한 세대별 AI 도구를 보유하고 있습니다. 이러한 툴은 개발자, 마케터 및 기타 여러 직군에서 사용됩니다. SAP의 마스리는 약 3만 명으로 구성된 고객 대면 조직에서는 모든 직원이 이러한 도구를 사용하고 있다고 합니다. 약 천 명으로 구성된 디지털 허브 조직에서는 모든 사람이 1년 전에는 사용하지 않았던 도구를 최소 4~5개씩 사용하고 있습니다. 이러한 도구의 사용으로 SAP는 평균 20~30%의 생산성 향상을 보고 있습니다. 이 수치는 역할에 따라 크게 달라집니다. 일부는 이미 고도로 디지털화된 상태였고, 일부는 낮은 기준선에서 시작했기 때문에 더 높은 수준의 개선이 있었습니다. 시장 조사, 산업 조사, 고객 조사 등 대량의 정보를 분석해야 하는 업무와 잠재 고객 발굴, 고객 지원, 콘텐츠 제작에서 가장 큰 가치가 있었습니다. 고객, 산업 및 시장 조사 생산성은 40~50% 증가했으며, 콘텐츠 제작 및 전달에서는 역할과 사용 사례에 따른 가중 평균을 기준으로 20~30%의 생산성 증가를 보인 것으로 분석됩니다. 이 모든 작업은 노동 집약적이었는데, 생성형 AI를 통해 기하급수적으로 개선할 수 있었습니다. 바로 이 부분에서 가장 큰 가치를 발견했습니다.
생성형 AI를 통해 지식 작업자의 생산성을 거둔 조직은 SAP뿐만이 아닙니다. 2월 말, 해리스 폴(The Harris Poll)은 그래멀리의 의뢰로 1,000명 이상의 지식 작업자와 250명 이상의 비즈니스 리더를 대상으로 비즈니스 커뮤니케이션 현황에 대한 설문조사를 실시했습니다. 응답자 중 80%는 생성형 AI가 업무의 전반적인 품질을 향상하고, 생성형 AI를 사용하면 주당 7.8시간을 절약할 수 있다고 답했습니다. 이는 모든 직원이 커뮤니케이션을 위해 생성형 AI를 사용하기 시작할 경우 직원 1인당 연평균 1만 6,455달러를 절약할 수 있다는 의미입니다. 직원 1,000명 규모의 회사에서 연간 1,650만 달러, 미국 생산성 측면에서 연간 총 1조 6,000억 달러를 절약할 수 있다는 뜻이기도 합니다. 7월에 발표된 MIT의 연구에서도 비슷한 결과가 나왔습니다. 연구진은 453명의 숙련된 전문가를 대상으로 실험을 실시한 결과, 챗GPT를 사용한 사람들은 글쓰기 작업에 걸리는 시간이 40% 단축되고 품질은 18% 향상되었다고 전했습니다. 특히 초기 낮은 성적을 받은 사람들에게서 가장 큰 개선 효과가 나타났습니다. 또 실험이 끝난 후, 챗GPT를 사용한 참가자들은 2주 후 실제 업무에서 이를 사용할 가능성이 두 배나 높았습니다.
글로벌 보험 중개, 위험 관리 및 컨설팅 서비스 회사 갤러거의 임원 검색 실무 담당 상무이사 톰 윌슨은 자신의 팀이 연구 및 서면 커뮤니케이션에 생성형 AI를 사용하고 있다고 전했습니다. 그 결과 예전에는 표준 양식에 따라 구직자 프로필을 작성하는 데 약 1시간이 걸렸지만, 지금은 그 절반이 걸린다고 합니다.
생성형 AI로 생산성이 향상되는 경우
하버드, 워튼, 워릭, MIT, 보스턴 컨설팅 그룹(BCG) 연구진의 최근 연구에 따르면 생산성 향상은 AI가 능숙한 영역에서 특히 두드러지지만, AI의 능력을 넘어서는 작업에 사용될 경우 생산성이 급격히 떨어질 수 있습니다.
이 연구에는 BCG에서 근무하는 700명 이상의 컨설턴트가 참여했습니다. 오픈AI의 GPT-4의 도움을 받은 컨설턴트는 AI를 사용하지 않은 컨설턴트보다 평균 12% 더 많은 작업을 완료하고 25% 더 빨리 작업을 완료했습니다. 또 결과물의 품질이 40% 더 우수한 것으로 나타났습니다. 특히 평균 이하의 컨설턴트 군에서 성과가 43% 증가하여 가장 큰 효과를 보였습니다. 반면 평균 이상의 컨설턴트는 17%만 이점을 얻었습니다. 하지만 이는 AI가 잘하는 작업의 경우였습니다. AI 세대의 역량을 넘어서는 작업의 경우 컨설턴트의 성과는 19% 감소했습니다.
그리고 이 연구에는 신제품 아이디어 개발과 비즈니스 문제 해결 등 일반적으로 BCG 컨설턴트의 일상 업무에 속하는 작업이 포함됐습니다. 컨설턴트는 이러한 과제를 수행하기 위해 창의력, 분석력, 설득력, 글쓰기 능력을 사용해야 합니다.
포레스터의 J.P 군더 애널리스트는 AI의 결과물에 언제 의문을 제기해야 하는지에 대한 이해가 있어야 한다고 강조합니다. 이는 간단하게 해결할 수 있는 문제가 아닙니다. 많은 맥락과 판단력, 그리고 AI뿐만 아니라 환경에 대한 이해가 필요합니다. 강의실에서 한 시간만 투자하면 사람들이 속도를 낼 수 있다고 생각하기 쉽습니다. 그러나 프롬프트 엔지니어링처럼 하루 만에 배울 수 없는 어려운 것들도 있습니다. 생성형 AI는 혁신을 일으킬 수 있는 놀라운 잠재력을 가지고 있지만, 그 여정은 쉽지 않습니다. 단 그 여정의 대부분은 이러한 기술을 필요로 하는 사람들을 통해 이뤄집니다.
▶ 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 기고자에게 저작권이 있습니다.
▶ 해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.
IDG