기업을 위한 ChatGPT, 프라이빗 챗GPT!

ChatGPT는 무엇인가?

ChatGPT는 2022년 12월, OpenAI에서 딥 러닝 기술을 사용하여 개발한 언어 모델로, 텍스트 기반의 대화 방식으로 응답을 생성합니다. GPT(Generative Pre-trained Transformer) 아키텍처 기반이며, 언어의 패턴 및 관계, 컨텍스트를 학습하기 위해 대규모의 텍스트 데이터 코퍼스로 학습하였습니다. 웹 사이트, 아티클, 책, 온라인 포럼 등 다양한 텍스트 소스를 기반으로 광범위하게 학습하였습니다. ChatGPT는 다양한 쿼리 및 프롬프트를 이해하고, 일관되고 상황에 맞는 응답을 생성할 수 있습니다. ChatGPT의 언어 생성 기능은 매우 인상적이지만, 이따금씩 부정확하거나 무의미한 응답을 생성할 수 있다는 점에 유의해야 합니다. AI 환각 등 ChatGPT가 지닌 한계, 오류, 편향을 제외한다면, ChatGPT는 분명 새로운 소통 수단으로 발전할 가능성이 높으며, 제대로 활용한다면 기업의 업무 효율성이나 생산성 향상에 충분히 기여할 것으로 보여집니다.

ChatGPT에 대한 우려

ChatGPT는 출시 이래로 전 세계적으로 폭발적인 인기를 얻었습니다. ChatGPT는 사람과 같이 질문에 응답하고 추천하는 등 다양한 수준의 대화가 가능합니다. ChatGPT는 누구나 쉽게 사용할 수 있다는 장점 때문에 수많은 사람들의 호기심을 환기시켜 놓았습니다. 이는 7년 전, 이세돌 9단과 세기의 대결을 펼쳤던 AI에 대한 관심을 다시 한 번 발동하는 계기가 되기도 했습니다. 그러나, 이러한 인기와는 별개로, 벌써 몇몇 기업에서는 ChatGPT를 통한 보안 사고가 발생하여 국내외 많은 기업이 기밀 유출에 대한 우려로 ChatGPT의 사용을 자제하는 ‘ChatGPT 경계령’을 내리고 있습니다. ChatGPT는 언어 모델의 특성상 파라미터와 데이터의 양이 많으면 많을수록 답변의 정확도가 높아집니다. 문제는 이 과정에서 기업의 민감한 정보가 ChatGPT에 남을 수 있다는 것입니다. ChatGPT 모델은 많은 이점을 제공하지만, 개인정보 보호, 보안 및 규정 준수 측면에서 기업의 요구사항과 일치하지 않을 수 있습니다.

프라이빗 챗GPT의 개념

프라이빗 챗GPT는 제한된 환경이나 비공개 환경에서 배포, 운영하는 언어 모델을 말합니다. 즉, 누구나 사용할 수 있는 ChatGPT와 달리, 특정 기업이나 조직에서만 사용하는 기업용 챗GPT입니다. 기업에서 정한 보안 규정과 규제를 준수하기 때문에 정보 유출에 대해 안심하고 사용할 수 있습니다. 표면상으로는 일반적인 ChatGPT와 똑같아 보이지만, 이를 운영하는 기업이나 플랫폼에 따라 검색 결과가 달라집니다.

기업 내외에서 만들어지는 엄청난 양의 데이터와 정보를 처리해야 하는 기업 입장에서 ChatGPT의 유혹을 간과하기는 어려울 것 같습니다. 이에 많은 기업이 프라이빗 챗GPT 구축에 대해 관심과 연구가 뜨겁습니다. 이러한 기업의 니즈를 반영하듯, Microsoft는 데이터 저장 공간을 분리하는 방식으로 프라이빗 챗GPT 서비스를 제공할 예정이라고 합니다.

기업용 프라이빗 챗GPT의 장점

프라이빗 챗GPT는 기업에서 보유하고 있는 막대한 데이터와 외부 데이터를 병행하여 사전 학습하기 때문에, ChatGPT에 비해 기업에 특화된 정보를 추출할 수 있습니다. 이외에도 프라이빗 챗GPT는 다음과 같은 장점을 지니고 있습니다.

 • 제한된 접근: 말 그대로 특정 기업 또는 플랫폼 내에서만 접근할 수 있습니다. 공개적으로 사용하지 않기 때문에 제한된 사용자에게만 제공하도록 설계합니다.

 • 사용자 지정: 기업에서 정의한 요구사항에 충족하는 사용자를 지정할 수 있습니다. 특정 도메인이나 작업을 할 수 있도록 사용자를 지정하거나 조정할 수 있습니다.

 • 향상된 보안: 기업 내 민감한 정보와 통신을 보호하기 위해 최적의 보안을 적용합니다. 암호화, 접근 제어 메커니즘, 데이터 보호 프로토콜 등을 활용합니다.

 • 내부 시스템과의 통합: 기업의 내부 시스템, 데이터베이스, API 등과 통합할 수 있어 ERP, CRM, HR 등 다양한 정보에 접근할 수 있습니다.

 • 규정 준수 및 거버넌스: 기업이 속해 있는 산업과 규제 환경에 적용하는 규정 준수 표준 및 거버넌스 프레임워크를 준수합니다.

프라이빗 챗GPT의 주요 기능

프라이빗 챗GPT는 기업의 일원으로서 임직원들의 업무를 지원하거나, 단독으로 다양하고 중요한 업무를 수행할 수 있습니다. 다만, 아직까지는 프라이빗 챗GPT만 할 수 있는 고유 업무라기보다는, 이미 많은 기업이 활용하고 있는 대화형 AI 챗봇 기능을 프롬프트 기반의 ChatGPT 기능으로 조금 확장한 정도라고 할 수 있습니다. 이는 프라이빗 챗GPT를 통해 최상의 결과물을 얻기 위해서 어느 정도 사람의 개입이 필요하다는 것을 의미합니다. 프라이빗 챗GPT가 수행할 수 있는 업무는 다음과 같이 정의할 수 있습니다.

 • 정보 검색 및 지식 관리: 방대한 정보를 검색하고 정리하여 이를 자연스러운 문장 형태의 결과물로 만들어내기에 챗GPT는 우리가 사용할 수밖에 없는 가장 큰 목적입니다. 인터넷뿐만 아니라, 기업 내 데이터베이스, 문서, 웹사이트 등과 같은 기업에서 운영하는 다양한 저장소에 보관된 정보를 검색합니다. 또한 정보를 빠르게 검색하고 수초 내에 요약해 주므로 임직원들이 손쉽게 접근할 수 있습니다.

 • 콘텐츠 생성 및 편집: 주어진 프롬프트와 지침에 따라 기사, 보고서, 소셜 미디어 게시물과 같은 콘텐츠를 생성합니다. 또한 교정 및 편집을 지원하여 문서의 문법적 정확성과 일관성을 보장할 수 있습니다.

 • 언어 번역 및 다국어 지원: 다른 언어를 사용하는 개인 간의 의사소통을 용이하게 합니다. 즉, 실시간 번역을 지원하여 다국어 대화를 가능하게 합니다.

 • 의사 결정 지원 및 분석: 데이터를 분석하고 의사 결정 프로세스를 지원하는 통찰력을 제공할 수 있습니다. 대량의 정보를 처리함으로써 패턴, 추세 및 상관 관계를 식별하여 조직이 정보에 입각한 선택을 하고 전략을 최적화할 수 있도록 합니다.

 • 교육 및 온보딩 지원: 온보딩 프로세스 동안 신입 직원에게 지침과 지원을 제공할 수 있습니다. 질문에 답하고, 교육 자료를 제공하고, 단계별 지침을 제공하여 조직으로의 원활한 전환을 보장할 수 있습니다.

 • 고객 지원 및 서비스: 가상 고객서비스 담당자 역할을 하여 고객 문의를 즉각적으로 처리하고 제품 또는 서비스에 대한 정확한 정보를 제공하며 문제 해결을 지원할 수 있습니다. 개인화된 응답을 제공하고 관련 데이터베이스에 액세스하며 일관되고 시기 적절한 지원을 보장할 수 있습니다.

 • 업무 자동화 및 워크플로 최적화: 일상적인 작업과 워크플로를 자동화함으로써 임직원은 보다 복잡하고 전략적인 활동에 집중할 수 있습니다. 데이터 입력, 보고서 생성 등 반복적인 작업을 처리하게 하여 업무 효율성과 생산성을 높일 수 있습니다.

 • 개인 비서 및 생산성 향상: 가상 개인비서 역할을 할 수 있기 때문에, 작업을 관리하고, 약속을 예약하고, 미리 알림을 설정하고, 작업의 우선순위를 지정할 수 있도록 직원을 도울 수 있습니다. 제안, 미리 알림 및 권장사항을 제공하여 개인의 생산성을 향상할 수 있습니다.

프라이빗 챗GPT를 위한 고려사항

기업에서 프라이빗 챗GPT를 도입하기 위해서는 기밀이 외부로 유출되지 않도록 강력한 보안이 전제되어야 하며, 최소의 데이터로 최대의 효과를 얻을 수 있는 방안을 고안해야 합니다. 프라이빗 챗GPT를 구축하는 과정에서 일반적으로 고려하는 사항은 다음과 같습니다.

 • 강력한 보안 조치: 무단 액세스, 위반 또는 오용으로부터 사용자 데이터를 보호하기 위해 강력한 보안 조치를 구현합니다. 취약성을 식별하고 해결하기 위한 암호화, 보안 스토리지 프로토콜 및 정기 보안 감사를 실행합니다.

 • 개인정보보호 규정 준수: 관련 개인정보보호 규정을 숙지하고 준수해야 합니다. 글로벌 기업이라면, EU의 일반 데이터 보호 규정(GDPR)과 미국 캘리포니아주의 소비자 개인정보보호법(CCPA) 같은 규정을 함께 검토해야 합니다.

 • 온디바이스 처리: 사용자의 디바이스에서 AI 모델을 직접 실행할 수 있도록 온디바이스 처리 구현을 고려하여 데이터 전송의 필요성을 최소화하고 개인정보 보호를 강화합니다. 중앙집중식 서버에 대한 의존도를 줄이고 사용자 데이터 노출을 제한합니다.

 • 데이터 최소화: 챗GPT를 실행하는 데 필요한 사용자 데이터를 최소한으로 수집하는 것으로 제한합니다. 저장하는 데이터의 범위를 최소화하고 모든 개인식별정보(PII)를 최대한 주의하여 처리합니다.

 • 익명화 및 집계: 개인 식별을 방지하기 위해 사용자 데이터를 최대한 익명화합니다. 데이터를 집계하면 특정 개인과 연결하지 않고 트렌드와 패턴을 분석하여 개인정보를 보호할 수도 있도록 합니다.

 • 정기 데이터 삭제: 더 이상 필요하지 않은 사용자 데이터를 정기적으로 삭제하기 위한 정책 및 절차를 수립합니다. 불필요한 데이터를 삭제하면 데이터 유출 및 무단 액세스의 위험이 줄어듭니다.

프라이빗 챗GPT 구축을 위한 소스코드

ChatGPT는 OpenAI에서 개발한 상용코드로 오픈소스가 아닙니다. 따라서, ChatGPT의 소스코드를 보거나 수정할 수는 없습니다. OpenAI는 API를 통해 ChatGPT에 대한 액세스를 제공하므로 개발자와 기업은 유료로 모델을 활용할 수 있습니다. OpenAI에서 제공하는 모델의 가용성과 라이선스 조건은 다를 수 있으므로 라이선스 및 사용에 대한 최신 정보는 OpenAI의 공식 문서를 참조하는 것이 좋습니다. ChatGPT의 핵심 기술에 액세스할 수 있지만, 정교하고 효과적인 챗GPT를 구축하려면 상당한 시간, 전문 지식, 리소스가 필요합니다.

OpenAI의 ChatGPT만으로 프라이빗 챗GPT를 구축할 수 있는 것은 아닙니다. 오픈소스이면서 무료로 사용할 수 있는 모델들이 다양하게 나와 있어 기업에서 원하는 적합한 모델을 찾아 활용하면 됩니다.

라마 (LLaMA)

https://ai.facebook.com/blog/large-language-model-llama-meta-ai/
LLaMA는 Large Language Model Meta AI의 약자입니다. 모델 크기는 70억 개에서 650억 개까지 파라미터를 구성할 수 있습니다. Meta AI 연구원들은 파라미터의 수가 아닌 학습 데이터의 양을 늘려 모델의 성능을 확장하는 데 집중했습니다. 이들의 주장에 따르면, 130억 개의 파라미터 모델로도 GPT-3 모델의 1,750억 개 파라미터를 능가한다고 합니다. 이는 트랜스포머 아키텍처를 사용하며, Wikipedia, GitHub, Stack Exchange, Project Gutenberg의 책, ArXiv의 과학 논문에서 추출한 1조 4천억 개의 토큰으로 학습하였습니다.

알파카 (Alpaca)

https://crfm.stanford.edu/2023/03/13/alpaca.html
알파카는 Stanford University 연구팀이 개발한 오픈소스 언어 모델로, Meta의 대규모 언어 모델 (LLM)인 LLaMA를 기반으로 합니다. OpenAI의 GPT API (text-davinci-003)를 사용하여 LLaMA 7B 파라미터 모델을 미세 조정했습니다. 모든 사람이 AI를 무료로 사용할 수 있도록 하는 것이 목표입니다. 특히, 메모리 집약적인 알고리즘을 실행하는 연구원들이 값비싼 하드웨어에 대해 걱정하지 않고 연구를 수행할 수 있도록 지원합니다. 또한, 이 모델은 상업적으로 사용할 수는 없지만, 소규모 기업들이 챗봇을 구축하는 데 사용할 수 있습니다. 알파카 모델은 이메일 생성, 소셜 미디어, 생산성 도구와 같은 작업에서 ChatGPT와 비교 테스트를 수행했는데, 알파카가 90회, ChatGPT가 89회 우승했을 정도로 ChatGPT에 뒤지지 않는 성능을 나타냈습니다.

GPT4All

https://gpt4all.io/
GPT4All은 알파카와 유사하게 작동하며 LLaMA 7B 모델을 기반으로 합니다. GPT4All을 개발한 Nomic AI팀은 알파카에서 영감을 받아 GPT-3.5-Turbo OpenAI API를 사용하였습니다. 약 800,000개의 프롬프트-응답 쌍을 수집하여 코드, 대화 및 내러티브를 포함하여 430,000개의 어시스턴트 스타일 프롬프트 학습 쌍을 만들었습니다. 800,000개의 쌍은 알파카보다 대략 16배 더 큽니다. 이 모델의 가장 좋은 점은 CPU에서 실행할 수 있고 GPU가 필요하지 않다는 것입니다. 알파카와 마찬가지로 개인이 상용 솔루션에 비용을 지출하지 않고도 연구를 수행할 수 있도록 도와주는 오픈소스입니다.

돌리 2 (Dolly 2)

https://www.databricks.com/blog/2023/04/12/dolly-first-open-commercially-viable-instruction-tuned-llm
Databricks팀은 EleutherAI의 Pythia 모델을 기반으로 대규모 언어 모델을 만들었고, 이후 약 15,000개의 레코드 명령 코퍼스를 미세 조정했습니다. Apache 2 라이선스에 따라 제공하며. 학습된 모델, 학습 코드, 데이터 세트 및 모델 가중치를 모두 오픈소스로 사용할 수 있습니다. 상업적으로 사용하여 사용자 정의된 대규모 언어 모델을 만들 수 있습니다. 12B, 7B, 3B 파라미터의 세 가지 크기를 제공합니다.

비쿠나 (Vicuna)

https://lmsys.org/blog/2023-03-30-vicuna/
비쿠나는 UC Berkeley, CMU, Stanford, UC San Diego의 연구원이 개발했습니다. ShareGPT 웹사이트에서 추출한 채팅 데이터 세트를 사용하여 LLaMA에서 미세 조정하였습니다. 연구원들은 OpenAI ChatGPT-4의 90% 이상의 품질을 기록했다고 주장합니다. 성능이 Bard와 거의 동일하다는 점에 주목할 가치가 있습니다. 알파카의 학습 프로그램을 사용했고 다자간 대화와 긴 시퀀스라는 두 가지 측면에서 더욱 향상되었습니다.

마무리

기업이 디지털 혁신을 도입하고 고객 상호작용 및 내부 운영을 향상하기 위해 더욱 혁신적인 솔루션을 모색함에 따라 프라이빗 챗GPT는 AI 기반 챗봇의 이점과 기업 환경에 필요한 보안 및 규정 준수를 결합하는 강력한 도구로 부상했습니다. 개인정보 보호 및 보안 조치에 중점을 둔 프라이빗 챗GPT는 기업의 민감한 정보를 보호하고 무단 액세스를 방지하며 기업의 규제 요구사항을 충족할 수 있습니다. 이로써 기업은 프라이빗 챗GPT를 활용하여 지식 관리를 용이하게 하고, 내부 프로세스를 간소화하고, 판매 및 리드 생성을 개선하고, 고객 지원 및 서비스를 강화할 수 있습니다.



▶   해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 기고자에게 저작권이 있습니다.
▶   해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.