삼성SDS 연구소 장민성 클라우드연구팀장은 Intel AI Summit Seoul 2025에서 연구팀의 연구방향 및 Intel AI 가속기인 Gaudi 3를 기반으로 LLM 추론 성능을 분석한 사례를 발표하였습니다. AI 가속기가 LLM 추론 작업에서 일반적인 GPU를 대체하여 활용될 수 있는 잠재력에 대해 정량적으로 이해할 수 있는 사례로 의미가 있습니다.
👉 Intel AI Summit Seoul 2025 행사 정보 보기
AI기술의 최신 트렌드와 산업별 적용 사례에 대한 관심
비가 내릴까 조금 걱정했는데, 가랑비만 스쳐간 날이었습니다. 그래서인지 행사장인 삼성동 코엑스에는 700명 예상 인원을 훌쩍 넘은 1,000명 가까운 참가자들이 모여 시작 전부터 뜨거운 열기를 뿜어냈습니다.
[사진1] Intel AI Summit Seoul 2025
[사진2] 발 디딜 틈 없는 현장 분위기
행사는 “AX: AI 기반의 혁신, 미래를 디자인하다”라는 주제 아래, AI 기술의 최신 트렌드와 산업별 적용 사례를 공유하고 미래를 논하는 자리인 만큼 10시 공식 개막 전부터 부스는 발 디딜 틈 없이 북적거렸습니다. AI에 대한 업계의 갈증이 느껴질 정도로 모든 공간이 활기로 가득 차 있었습니다.
한층 더 끓어 오르는 현장 분위기
Intel AI Summit은 최신 AI 트렌드와 혁신적인 적용 사례를 공유하고 산업 전반에 걸친 AI의 잠재력과 미래 발전 방향을 함께 모색하기 위한 자리로서 삼성SDS 뿐만 아니라 레노버, 네이버클라우드, SK하이닉스, 델, 마이크로소프트, 슈퍼마이크로, 시스코, HPE, LG이노텍, LG전자 등 국내외 주요 IT회사 및 KAIST, 중소벤처기업부, 창업진흥원 등 학계와 공공 부문에서도 전문가가 참석해 AI 기술 동향과 산업 간 협력 방안에서 깊이 있는 논의를 나누었습니다.
[사진3] 국내외 주요 참여기관
[사진4] 다양한 사람들과 네트워킹의 기회
행사는 인텔코리아 배태원 사장의 환영사와 한스 촹(Hans Chuang) 인텔 세일즈 마케팅 그룹의 아시아 태평양 및 일본 총괄의 인사말, 린 콤프(Lynn Comp) 세일즈 글로벌 총괄의 키노트로 본격화 되었습니다.
AI 가속/효율을 위한 SDS의 연구방향
삼성SDS 연구소 클라우드연구팀은 시스템의 성능을 높이고, 더 많은 작업을 처리할 수 있도록 확장성을 개선하며, 에너지를 덜 사용하도록 효율을 높이는 관점의 다양한 연구를 수행하고 있고, 금번 발표에서 장민성 연구팀장은 두 가지 내용을 담았습니다.
우선, 삼성SDS 연구소 클라우드연구팀의 주요 연구를 소개하였습니다. AI 워크로드와 GPU 자원의 관리 및 오케스트레이션을 최적화하도록 설계된 AI 플랫폼인 ‘APEX’와 대규모 언어 모델(LLM)을 더 적은 자원으로도 빠르고 효율적으로 작동할 수 있도록 하는 양자화 기술인 ‘FireQ’에 대해 소개하였으며, 특히 FireQ는 최근 논문과 함께 코드가 오픈소스로 공개되어 많은 행사 참석자들의 관심을 끌었습니다.
그리고, 인텔의 새로운 AI 가속기인 Gaudi 3의 추론 성능을 GEMM 연산*과 커뮤니케이션 단계별로 구분하여 분석한 결과를 소개했습니다. GEMM 연산 성능 검증을 통해 연산의 형상에 따른 가속기 연산 유닛(MME**) 특성과 한계를 파악하여 추론성능에 대한 분석을 진행 했는데요, 전용 하드웨어 AI 가속기가 LLM 추론 작업에서 일반적인 GPU를 대체하여 활용될 수 있는 잠재력에 대해 정량적으로 이해할 수 있는 사례였습니다.
* GEMM(General Matrix to Matrix Multiplication): AI 모델의 핵심 연산인 대규모 행렬 곱셈을 빠르고 효율적으로 처리하기 위한 표준 연산
** MME(Matrix Multiplication Engine): AI 가속기에서 행렬 곱셈 연산을 전담하는 하드웨어 연산 유닛
[사진5] 콘서트장을 방불케하는 강연장
[사진6] 멋진 단독샷 1장 더!
이번 행사는요?
이번 행사는 단순히 정보를 전달받는 것을 넘어, 국내외 기업들이 AI로 이뤄낸 혁신 사례를 직접 들으며 새로운 인사이트를 얻을 수 있는 소중한 기회였습니다. 특히 산업 현장에서 AI를 주도하는 전문가들과 네트워킹하며 미래 협업의 가능성을 탐색할 수 있었던 점이 가장 큰 수확이었습니다.
삼성SDS 연구소 클라우드연구팀 또한 연구방향성과 실질적인 분석사례를 대중에게 소개할 수 있는 좋은 기회였으며, 향후 AI 커뮤니티에 기여할 수 있도록 지속 노력할 계획입니다.