시장과 기술의 변화를 읽고, 미래 전략을 준비하세요.
삼성SDS 클라우드서비스사업부 SCP GPUaaS그룹에서 근무하며 LLM Serving 분야를 담당하고 있습니다. 대규모 언어 모델을 실제 서비스 환경에서 효율적으로 운영하기 위한 GPU 인프라, 추론 최적화, KV Cache, 라우팅 및 오프로딩 기술에 관심을 가지고 연구하고 있습니다. 빠르게 변화하는 AI 기술을 인프라와 서비스 관점에서 해석하고, 현장에서 얻은 경험과 인사이트를 알기 쉽게 전달하고자 합니다.
