RESEARCH

연구분야

AI Infrastructure, Systems & High-Performance Computing

"더 크고 빠른 컴퓨팅의 힘"

거대 모델의 시대에 인공지능의 병목은 더 이상 아이디어가 아니라 시스템입니다. 얼마나 잘 학습하고 추론하느냐는 곧 하드웨어와 소프트웨어를 얼마나 잘 설계했느냐의 문제가 되었습니다.

  • CAD & VLSI 연구실
    CAD & VLSI Lab CAD & VLSI 연구실
    지도교수 | 김주호 교수 홈페이지

    반도체 칩을 설계하는 소프트웨어

    CAD(Computer Aided Design)는 컴퓨터를 이용한 설계를 통칭하며, 반도체 칩의 성능 향상을 위해 필수적인 기술입니다. 본 연구실은 회로의 성능을 빠르고 정확하게 분석·예측하는 소프트웨어를 개발하고 시스템 설계 자동화를 연구하며, 머신러닝을 통한 수율 최적화도 함께 탐구합니다. AI가 칩을 설계하고, 칩이 다시 AI를 돌리는 순환의 한가운데에 있는 연구실입니다.

  • 데이터 중심 컴퓨팅 및 AI 시스템 연구실
    DISCOS: Data-Intensive AI Computing & System Laboratory 데이터 중심 컴퓨팅 및 AI 시스템 연구실
    지도교수 | 박성용 교수 홈페이지

    AI를 위한 시스템 소프트웨어 및 데이터 플랫폼 연구

    AI 서비스의 성능은 모델뿐 아니라 데이터를 저장·이동·처리하는 시스템 소프트웨어에 의해 크게 좌우됩니다. 본 연구실에서는 대규모 AI 및 데이터 집약형 응용을 위한 분산 데이터 플랫폼, 벡터 데이터베이스(VectorDB), 스토리지 시스템, 운영체제 등의 성능 최적화를 연구합니다. 클라우드와 분산 환경에서 AI 서비스의 처리량과 응답시간을 동시에 향상시키는 크로스레이어 최적화를 목표로 합니다.

  • 시스템 모델링 및 최적화 연구실
    Systems Modeling & Optimization (SMO) Lab 시스템 모델링 및 최적화 연구실
    지도교수 | 장형수 교수 홈페이지

    문제를 수학으로 옮기고, 최적해를 찾습니다

    시스템 모델링 및 최적화 연구실은 응용에 앞서 방법론을 세우는 연구실입니다. 시스템 모델링 영역에서는 수학적 언어를 사용해 최적화 문제의 시스템을 표현하고 해법을 도출하며, 지능형 최적화 영역에서는 컴퓨터가 자동적으로 환경을 파악하고 학습하여 스스로 최적화하는 해법을 연구합니다. 강화학습, 시뮬레이션 기반 최적화, 확률적 제어 등 오늘날 AI의 이론적 기반과 직결되는 분야입니다.

  • 지능형 컴퓨터 아키텍처 및 임베디드 컴퓨팅 연구실
    Embedded Computing Lab (ECL) 지능형 컴퓨터 아키텍처 및 임베디드 컴퓨팅 연구실
    지도교수 | 이혁준 교수 홈페이지

    변화의 최전선에서, 컴퓨터 구조를 재설계합니다

    임베디드 컴퓨팅은 컴퓨터 하드웨어와 소프트웨어 기술을 모바일, 멀티미디어, 네트워크, 자동차, 바이오 의료기기 등 여러 분야에 적용하는 영역입니다. 본 연구실은 컴퓨터구조, 운영체제, 컴파일러 기술을 통해 각 시스템의 요구사항에 최적화된 시스템을 만드는 연구와, 딥러닝 응용에 최적화된 임베디드 시스템 연구를 진행합니다. 딥러닝·빅데이터·스마트폰 같은 새로운 응용이 등장할 때마다 기존의 컴퓨터 구조는 재설계를 요구받으며, 이 연구실은 그 변화의 최전선에 있습니다.

  • 데이터 중심 컴퓨팅 및 AI 시스템 연구실
    DISCOS: Data-Intensive AI Computing & System Laboratory 데이터 중심 컴퓨팅 및 AI 시스템 연구실
    지도교수 | 김영재 교수 홈페이지

    LLM 서빙, GPU부터 스토리지까지 다시 설계

    대규모 LLM 추론에서 토큰 길이 예측과 컨티뉴어스 배칭을 활용해 GPU 활용도와 처리량을 극대화하는 추론 실행·스케줄링 기법을 연구합니다. KV 캐시의 배치·이동·축출을 최적화하고 SLO를 만족하는 비용 효율적 LLM 서빙 아키텍처를 설계합니다. 궁극적으로는 LLM 런타임, KV 캐시, VectorDB, 파일 시스템, 스토리지, GPU 스케줄러를 연계하는 크로스레이어 설계를 통해 클라우드 기반 RAG–LLM 서비스의 처리량과 tail latency를 동시에 개선하는 것을 목표로 합니다.

  • 머신러닝 시스템 연구실
    Machine Learning Systems Lab 머신러닝 시스템 연구실
    지도교수 | 문의현 교수 홈페이지

    머신러닝과 HPC의 교차점에서 학습을 가속합니다

    머신러닝 시스템 연구실은 머신러닝과 고성능 컴퓨팅(HPC)의 교차점에서 연구합니다. 분산 메모리 시스템과 공유 메모리 멀티프로세서 플랫폼 환경에서 대규모 딥러닝 모델 학습을 가속화하기 위한 병렬 처리 기법을 개발합니다. 최신 GPU를 대상으로 데이터 로컬리티가 강화된 행렬·텐서 연산 알고리즘(GEMM, SpMM, SpGEMM, Convolution, Tensor Contraction 등)을 설계하고, 딥러닝 모델 경량화 기법을 함께 연구합니다.

  • 고성능 인공지능 시스템 연구실
    High-Performance AI Systems Lab 고성능 인공지능 시스템 연구실
    지도교수 | 이영민 교수 홈페이지

    온디바이스 LLM과 AI 가속기 설계

    AI 모델의 연산 및 메모리 요구량이 갈수록 증가하면서, 효율적인 학습과 추론이 가능한 AI 시스템 연구의 중요성이 높아지고 있습니다. 본 연구실은 CPU·GPU·NPU가 혼재된 이기종 시스템에서 AI 모델을 효율적으로 다루는 고성능 AI 시스템을 설계합니다. 온디바이스 LLM 추론, 신경망 자동탐색(NAS), AI 가속기 설계, LLM을 위한 다차원 딥러닝 병렬화를 핵심 연구 주제로 삼으며, 알고리즘과 하드웨어를 함께 설계한다는 것이 이 연구실의 방법론입니다.