삼성SDS 권영준 연구소장은 ‘어텐션부터 언어모델로 Agentic AI까지’의 제목으로 한국정보처리학회의 2025년 IT21 글로벌 컨퍼런스에서 키노트 스피치를 하였습니다.
혹시 여러분은 ‘창발(Emergence)’이라는 단어를 들어보신 적이 있으신가요? 이번 키노트 스피치에서 권영준 연구소장은 AI기술의 흐름에서 ‘창발’이 어떤 영향을 끼쳤는지는 설명하고, 약 40년 전에 쓰여진 책에 이미 에이전트의 개념이 등장했었다는 재미있는 이야기도 해 주었습니다.
지금부터 키노트 스피치의 주요 내용을 함께 확인 해 보시죠!
👉 IT21 글로벌 컨퍼런스 정보 보기
어텐션 메커니즘과 AI기술의 기반
한국정보처리학회의 2025년 IT21 글로벌 컨퍼런스가 “Everything for AI, AI for Everything”을 주제로 6/30(월)부터 7/3(목)까지 삼성SDS 서관 마젤란홀에서 진행되었습니다.
권영준 연구소장은 ‘어텐션부터 언어모델로 Agentic AI까지’의 제목으로 키노트 스피치(7/1)를 하여, 참석자들에게 AI기술 발전에 대한 인사이트를 주었습니다.
[사진1] 키노트 스피치를 시작하면서 인사하고 있는 모습
키노트 스피치는 어텐션(Attention) 개념설명으로 시작하였습니다. 어텐션은 입력 단어의 모든 가능한 쌍에 대해 상관관계를 계산하는 메커니즘 입니다. 이러한 어텐션 메커니즘 덕분에 AI 언어 모델은 온라인에 있는 방대한 정보뿐만 아니라 그 이상의 정보를 학습할 수 있는 기반을 갖추게 되었습니다. 이와 더불어 대규모 언어모델(LLM) 같은 생성형 AI 제공을 위한 컴퓨팅 파워에서 엄청난 성장이 이루어 졌으나, 좋은 컴퓨팅 파워가 있었다고 해서 AI가 바로 성공적으로 쓰이게 된 것은 아니었습니다.
‘창발(Emergence)’의 힘
[사진2] ‘창발’에 대해서 설명하고 있는 발표자
[사진3] 경청하고 있는 청중들
그렇다면 AI가 성공적으로 활용되게 된 계기는 무엇일까요? 여기서 권영준 연구소장은 ‘창발(Emergence)’의 개념을 설명하였습니다. ‘창발’이라는 것은 주로 어떤 현상이나 특성이 기존의 구성 요소나 하위 수준에서는 예측할 수 없었던 방식으로 나타나는 것을 의미합니다. 즉, 모델의 파라미터 수가 많아진다고 AI기술이 발전되는 것이 아니라, 예측할 수 없었던 능력(추론, 코딩, 수학 문제 해결, 창작 등)이 훈련 데이터에 명시적으로 없었는데도 나타남으로써 패러다임의 전환을 이끌게 되었다는 것입니다! 단순 패턴 매칭이 진짜 이해와 추론이 가능한 것으로, 특정 태스크 중심의 AI기술이 범용 인공지능으로, 도구로써의 AI기술이 협업파트너가 되는 것이 바로 AI기술의 ‘창발’로 나타난 모습입니다. 이러한 ‘창발’의 힘으로 AI는 성공적으로 활용되게 된 것이라고 할 수 있습니다.
에이전트에 대한 Marvin Minsky의 선견지명?
키노트 스피치에서 권영준 연구소장은 ‘Agentic AI’를 에이전트라는 시스템/객체를 통해 LLM을 대규모로 퍼뜨리고 온갖 계산에 활용 할 수 있는 방법론으로 정의하고, 이러한 에이전트를 통해서 의사 결정, 툴(Tool) 사용, 멀티 모달리티*의 처리 등을 할 수 있게 되었다고 말했습니다. 또, 멀티 에이전트들의 협업을 통해서 추론을 향상 시킬 수 있다고 하였습니다.
*모달리티(Modality): AI 분야에서는 텍스트, 이미지, 음성 등 서로 다른 종류의 데이터를 각각 하나의 모탈리티라고 함
그런데 한 가지 흥미로운 것은 이러한 에이전트의 개념이 약 40년 전에 쓰여진 Marvin Minsky의 책, ‘The Society of Mind(1986년)’에 나온다는 것입니다. Minsky는 인간의 두뇌는 각각의 정해진 기능을 가진 행위자(Agent)의 결합체 라고 하면서, 에이전트가 서로 교류할 때(Network) 인텔리전스가 발생한다고 하였습니다. 권영준 연구소장은 Minsky가 커뮤니케이션, 메모리, 학습 등 LLM이 가지고 있지 않은 이런 개념들을 이미 ‘The Society of Mind’에서 설명했다고도 덧붙였습니다.
에이전트의 창발적 능력과 새로운 미래
[사진4] 청중들에게 질문하고 있는 모습
이제 키노트 스피치의 마무리 입니다. 권영준 연구소장은 LLM을 단 에이전트가 온 세계에 만연하면 상당한 일이 일어날 것이며, 지금의 싱글 에이전트가 에이전트간 협업 통해 협동 에이전트들이 일하게 되면 놀랄 만한 일이 생길 것으로 기대한다고 하였습니다. 다만, 이런 에이전트들의 협업은 보안이 유지되고 안전한 환경에서 이루어져야 한다고 덧붙였습니다.
앞에서 이야기 하였던 ‘창발’을 통해서 LLM의 새로운 능력을 목격한 것처럼, 각종 에이전트들이 대규모 컴퓨팅 환경에서 기업과 우리 일상에 밀접하게 작동할 때에 LLM을 능가하는 다음 단계의 ‘창발’이 있을 것이라고 말하면서, ‘참석한 청중들은 어떻게 생각하는지?’라는 질문으로 키노트 스피치를 마쳤습니다.
한 가지 소식이 더! 삼성SDS 연구소 연구원들의 세션 발표
이번 2025 IT21 글로벌 컨퍼런스에서는 ‘이미 시작된 컴퓨팅의 미래’ 세션(7/2)에서 연구원 네 명의 발표도 있었습니다.
< 학습 데이터 Self-Curation을 통한 LLM 응답 품질 향상 연구 >
LLM의 사후훈련 과정에 사용되는 훈련 데이터의 품질을 높이기 위해 제안된 연구들을 살펴보고, 강화학습이나 DPO와 같은 선호 최적화(Preference optimization)에 사용되는 훈련 데이터를 자가 선별하는 Self-Curation 등을 소개 하였습니다.
👉 발표와 관련된 논문리뷰 바로가기
< PAISE: PIM(Processing-in-Memory)을 활용한 LLM 추론 가속 스케줄링 엔진 >
PIM 기술을 활용하여 트랜스포머 기반 LLM의 추론 속도를 최대 48.3%까지 향상시키며, 이를 통해 AI 애플리케이션 서비스의 효율성을 높이는 방법 등을 발표 하였습니다.
👉 발표와 관련된 논문리뷰 바로가기
< AI 기반의 테스트 자동생성 기술 연구 및 산업 현장 적용 >
대규모 언어 모델을 활용하여 자동으로 생성되는 단위 테스트의 가독성을 높이고, 실제 산업 현장 적용을 위해 JDK11 및 17 호환성을 확보한 최신 EvoFuzz의 연구/개발 내용을 공유 하였습니다.
👉 발표와 관련된 논문 바로가기
< 프라이버시 강화 기술 및 응용 사례 >
PSI(Private Set Intersection), PIR(Private Information Retrieval) 프로토콜의 개념과 작동 원리, 최신 연구결과 등에 대해 발표하고, Microsoft의 Password Monitoring, Google의 Password Checkup, Apple의 CSAM 감지 등 해당 프로토콜이 실제로 활용된 사례들에 대해서 소개하였습니다.