콘텐츠로 이동

클라우드 네이티브 지원

LPU를 컨테이너와 쿠버네티스에서 GPU처럼 다룰 수 있게 해 주는 구성요소들입니다. 컨테이너에는 표준 CDI(Container Device Interface)로 카드를 넣고, 쿠버네티스에서는 카드를 hyperaccel.ai/lpu 리소스로 요청합니다.

쓰는 곳 설치 문서
Docker, containerd, CRI-O (쿠버네티스 없이) 호스트에 hyperaccel-lpu 패키지 컨테이너 지원
쿠버네티스 노드에 hyperaccel-lpu, 클러스터에 ha-lpu-operator Helm 차트 쿠버네티스 지원

구성요소

구성요소 하는 일 버전
ha-container-toolkit (ha-ctk) 노드의 카드를 찾아 CDI 스펙(/etc/cdi/lpu.yaml)을 만들고, 컨테이너 런타임이 CDI를 쓰도록 설정합니다 0.1.8
bertha-device-plugin 카드를 쿠버네티스 리소스 hyperaccel.ai/lpu로 알리고, Pod에 배정한 카드를 CDI로 넣습니다. 드라이버가 고장으로 보고한 카드는 배정에서 뺍니다 0.1.8
bertha-feature-discovery 카드 수, NUMA, PCIe 스위치 구성을 노드 라벨로 붙입니다 0.1.5
ha-webhook 여러 장을 요청한 Pod가 같은 PCIe 스위치 아래 카드를 고를 수 있는 노드로 가도록 선호 조건을 더합니다 0.1.5
ha-lpu-exporter 카드별 상태와 사용량을 Prometheus 지표로 냅니다 0.1.7
ha-lpu-operator 위 구성요소를 BerthaCluster 리소스 하나로 설치하고 관리합니다 차트 0.1.8 (이미지 0.1.6)

드라이버(ha 커널 모듈)는 노드 호스트에 따로 설치합니다. 컨테이너 안에는 넣지 않습니다.

Pod에 LPU가 붙는 과정

Pod는 장치 파일을 직접 지정하는 대신 hyperaccel.ai/lpu 리소스로 필요한 LPU 수를 요청합니다. LPU를 사용할 수 있도록 노드를 준비하는 단계부터, 배정된 LPU가 컨테이너에 연결되는 단계까지의 흐름은 다음과 같습니다.

  1. 호스트에서 LPU를 사용할 준비를 합니다.

    ha 커널 모듈이 LPU마다 /dev/ha0, /dev/ha1 같은 장치 파일을 만듭니다. ha-ctk는 컨테이너에 전달할 장치 파일과 사용자 모드 드라이버 라이브러리 등의 정보를 CDI 스펙(/etc/cdi/lpu.yaml)에 기록합니다. LPU 구성이 바뀌면 이 스펙도 다시 만듭니다.

  2. 쿠버네티스에 노드의 LPU 정보를 알립니다.

    validator가 드라이버 상태를 확인하면 나머지 구성요소가 동작합니다. feature-discovery는 LPU 수와 NUMA·PCIe 스위치 구성을 노드 라벨로 붙이고, device-plugin은 kubelet에 LPU 수와 각 LPU의 NUMA 노드를 알립니다. 이 정보는 Pod를 배치할 노드를 고르는 데 쓰입니다.

  3. Pod의 요청에 맞춰 노드를 선택합니다.

    Pod가 hyperaccel.ai/lpu를 요청하면 스케줄러가 사용 가능한 LPU 수와 노드 조건을 보고 배치할 노드를 고릅니다. 여러 장을 요청한 Pod에는 webhook이 같은 PCIe 스위치 아래에 충분한 LPU가 있는 노드를 선호하도록 조건을 더합니다. 이는 선호 조건이므로, 해당 조건을 만족하는 노드가 없어도 다른 조건이 맞으면 Pod를 배치할 수 있습니다.

  4. 배정된 LPU를 컨테이너에 연결합니다.

    배정된 LPU는 device-plugin과 CDI를 통해 컨테이너에 연결됩니다. 컨테이너 안에서는 해당 LPU의 장치 파일과 사용자 모드 드라이버 라이브러리를 사용할 수 있게 되고, 애플리케이션은 이를 통해 LPU를 사용합니다.