콘텐츠로 이동

환경 변수

torch_ha가 직접 읽는 사용자용 변수는 아래 두 개입니다. 로그, 백엔드 선택처럼 SDK 전체가 공유하는 변수는 하위 계층의 문서를 보십시오.


메모리

변수 타입 기본값 적용 시점 설명
HA_FILL_KERNEL 정수 켜짐 첫 fill 0이면 fill_·zero_가 디바이스 memset 커널을 쓰지 않고 모두 호스트 경로로 채웁니다
HA_FILL_KERNEL_MIN_BYTES 바이트 1048576 (1 MiB) 첫 fill 이보다 작은 fill은 호스트 경로로 채웁니다. 0이면 커널이 다룰 수 있는 fill을 모두 커널로 보냅니다. 음수이거나 숫자가 아니면 기본값

하위 계층의 변수

계층 변수
런타임 HA_* — hart 환경 변수 참조
집합 통신 LCCL_* — LCCL 환경 변수 참조
분산 런처 MASTER_ADDR, MASTER_PORT, RANK, WORLD_SIZE — 표준 PyTorch

환경 변수로 제어하지 않는 것

설정 지정 방법
디바이스 선택 API로 지정 — torch.accelerator.set_device_index. 분산 §4.2
가중치 레이아웃 nn.Linear와 nn.Embedding은 lpu로 이동할 때 자동 적용
eager 계산 커널(add, sub, mul, mm) 항상 켜져 있으며 끄거나 바꾸는 변수가 없습니다. 연산 §3.1

함께 보기