환경 변수
torch_ha가 직접 읽는 사용자용 변수는 아래 두 개입니다. 로그, 백엔드 선택처럼 SDK 전체가 공유하는
변수는 하위 계층의 문서를 보십시오.
메모리
| 변수 |
타입 |
기본값 |
적용 시점 |
설명 |
HA_FILL_KERNEL |
정수 |
켜짐 |
첫 fill |
0이면 fill_·zero_가 디바이스 memset 커널을 쓰지 않고 모두 호스트 경로로 채웁니다 |
HA_FILL_KERNEL_MIN_BYTES |
바이트 |
1048576 (1 MiB) |
첫 fill |
이보다 작은 fill은 호스트 경로로 채웁니다. 0이면 커널이 다룰 수 있는 fill을 모두 커널로 보냅니다. 음수이거나 숫자가 아니면 기본값 |
하위 계층의 변수
| 계층 |
변수 |
| 런타임 |
HA_* — hart 환경 변수 참조 |
| 집합 통신 |
LCCL_* — LCCL 환경 변수 참조 |
| 분산 런처 |
MASTER_ADDR, MASTER_PORT, RANK, WORLD_SIZE — 표준 PyTorch |
환경 변수로 제어하지 않는 것
| 설정 |
지정 방법 |
| 디바이스 선택 |
API로 지정 — torch.accelerator.set_device_index. 분산 §4.2 |
| 가중치 레이아웃 |
nn.Linear와 nn.Embedding은 lpu로 이동할 때 자동 적용 |
eager 계산 커널(add, sub, mul, mm) |
항상 켜져 있으며 끄거나 바꾸는 변수가 없습니다. 연산 §3.1 |
함께 보기