콘텐츠로 이동

릴리즈 노트

HyperAccel Profiler(hapti)의 변경 사항입니다. 스택 전체의 변경은 SDK 릴리즈 노트를 참고하십시오.


0.0.6 — 2026-11-16

버전: 0.0.6. Python 3.10 이상, Runtime 0.0.6 필요.

주요 마이그레이션 (Breaking Changes)

항목 이전 0.0.6
카운터 선택 환경 변수 HA_PROFILE_COUNTERS HAPTI_COUNTERS
이전 이름은 더 이상 읽지 않음

설정 방법은 환경 변수를 참고하십시오.

신규 기능

  • 디바이스 레코드 링 크기 지정 — HAPTI_DEVICE_RING_BYTES로 디바이스 레코드를 받는 호스트 링의 크기를 지정합니다. 기본값은 1 MiB이며, 숫자 뒤에 K, M, G(1024 단위)를 붙일 수 있습니다. 레코드 유실 경고가 나오면 이 값을 늘리십시오.

수정 사항

  • 시그널 로거 트랙에서 MPU 구간이 표시되지 않던 문제를 고쳤습니다.
  • wheel로 설치한 환경에서 hapti 공유 라이브러리를 찾지 못하던 문제를 고쳤습니다.

0.0.5 — 2026-10-14

버전: 0.0.5. Python 3.10 이상, Runtime 0.0.5 필요.

신규 기능

  • 출력 제어 옵션 연결 — -d, -o, -f, --log-level이 도구까지 전달되어 출력 디렉터리, 파일 이름, 포맷을 지정할 수 있습니다. --profile-children를 쓰면 -o 값이 랭크별 파일 이름의 접두어가 됩니다. CLI 레퍼런스를 참고하십시오.
  • 메모리 전송 대역폭 측정 — 4 KiB 이상의 H2D, D2H 전송 슬라이스에 실측 대역폭이 붙고, haprof 트레이스에 디바이스별 대역폭 카운터 트랙이 추가됩니다.
  • Kineto 플러그인 디바이스 타임라인 — Kineto 플러그인이 디바이스 커널과 메모리 전송 타임라인을 수집합니다. HAPTI_KINETO_DEVICE_TRACE와 HAPTI_KINETO_DEVICE로 제어합니다. PyTorch 프로파일러 연동의 디바이스 타임라인 수집을 참고하십시오.
  • 디바이스 레코드 유실 경고 — 레코드가 유실되면 프로세스 종료 시점에 경고를 출력합니다. 다음 세 경우를 구분해 알려 줍니다. - 리더가 링을 따라가지 못해 덮어쓴 레코드 - 드라이버가 링에 기록하기 전에 버린 레코드 - 커널 레코드가 없어 표시하지 못한 시그널 로거 실행

변경 사항

  • 시그널 로거 실행별 수집 — 도구가 사용자 공간에 슬롯 풀을 만들어 런타임에 등록하고, 런타임이 실행마다 데이터를 읽어 전달합니다.
  • 환경 변수 격리 — 런처가 실행할 때마다 HAPTI_* 환경 변수를 모두 새로 설정하므로, 셸에 남아 있던 값이 도구 설정에 섞이지 않습니다.
  • 디바이스 레코드 링 수거 순서 — 런타임 종료나 디바이스 리셋 때, 디바이스 자원을 회수하기 전에 디바이스 레코드 링을 먼저 수거하고 해제합니다.

수정 사항

  • 커널 레코드가 빠진 실행 회차의 시그널 로거 데이터가 다른 커널 위에 겹쳐 그려지던 문제를 고쳤습니다. 이제 그 회차는 표시하지 않고 경고를 출력합니다.
  • D2D 전송과 작은 전송에 의미 없는 대역폭 값이 표시되던 문제를 고쳤습니다.

0.0.4 — 2026-07-15

버전: 0.0.4rc4. Python 3.10 – 3.12, Runtime 0.0.4 필요.

주요 변경

  • 2단계 디바이스 트레이싱 — --runtime-trace로 디바이스 커널과 전송 타임라인을, --device-trace로 그 위에 커널별 하드웨어 카운터와 시그널 로거를 수집합니다.
  • 6개 하드웨어 블록, 41개 카운터 이벤트 — 메모리 바운드와 컴퓨트 바운드를 구분하는 stall 분해 지표를 포함합니다.
  • PyTorch 프로파일러 연동 — Kineto 플러그인으로 연동합니다.

신규 기능

구분 추가된 항목
디바이스 트레이싱 옵션 --runtime-trace, --device-trace(HAPTI_TOOL_DEVICE_TIMELINE, HAPTI_TOOL_DEVICE_COUNTERS로 도구에 전달)
하드웨어 카운터 커널 실행별 카운터 수집. HA_PROFILE_COUNTERS로 이벤트 선택
멀티 랭크 fork 기반 멀티 랭크 실행용 --profile-children
랭크별 트레이스를 병합해 straggler 리포트를 만드는 haprof merge
사용자 주석 API annotate, range_push / range_pop, range_start / range_stop, mark
디바이스 선택 HAPTI_TOOL_DEVICE_ID(디바이스 레코드를 수집할 디바이스)

변경 사항

  • 카운터 표현 통합 — haprof와 Kineto 플러그인이 같은 카운터를 같은 방식(실행별 차분, 활용률, 대역폭)으로 표시합니다.
  • 타임라인 연결 — 호스트와 디바이스 타임라인을 나란히 비교하는 대신 correlation id로 연결합니다.

알려진 문제

문제 영향 우회 방법
대부분의 CLI 옵션이 파싱만 되고 적용되지 않음 -o, -d, -f, --log-level과 도메인별 트레이스 플래그가 무시됨 실행 전에 대상 디렉터리로 이동
프로파일러 자체 오버헤드가 기록되지 않음 오버헤드 활동 종류가 비어 있음 프로파일러 없이 실행한 결과와 비교
메모리 할당 레코드에 디바이스 정보가 없음 멀티 디바이스 환경에서 할당 위치를 구분할 수 없음 —
기본 카운터 범위가 제한됨 core 0의 20개 이벤트(AXIBRG, DMC, UTIL)만 수집. CDMA, CGDMA, MPU와 다른 코어는 수집하지 않음 HA_PROFILE_COUNTERS로 직접 지정
트레이스당 디바이스 하나 멀티 디바이스 프로세스에서 한 디바이스의 커널만 기록됨 HAPTI_TOOL_DEVICE_ID로 지정하거나, 디바이스마다 랭크를 나눠 --profile-children 사용
Kineto 경로에 디바이스 타임라인과 hapti 주석이 없음 torch.profiler 트레이스에 런타임 API와 그 아래 계층 호출만 표시됨 haprof 런처 사용
설정이 프로세스 시작 시점에 고정됨 실행 중인 프로세스를 프로파일링하거나, 실행 도중 시작·중지할 수 없음 주석으로 분석 구간을 표시
트레이스가 프로세스 종료 시점에 기록됨 강제 종료하면 결과 파일이 생기지 않음 SIGKILL 대신 인터럽트 시그널로 정상 종료
첫 실행 회차는 측정 대상이 아님 커널 바이너리 로딩이 포함되고 카운터 차분의 기준값이 없음 충분히 워밍업한 뒤의 회차를 분석
CGDMA 대역폭이 실측값이 아님 펌웨어 상수로 환산한 활용률 지표임 절대 전송률이 아니라 회차 간 상대 비교에만 사용
활용률이 샘플링으로 집계됨 짧게 동작하는 유닛은 낮게 집계될 수 있음 stall 분해 지표와 함께 확인

버전 지원

버전 출시일 상태
0.0.6 2026-11-16 현재
0.0.5 2026-10-14 대체됨
0.0.4 2026-07-15 대체됨

hapti는 beta 단계입니다.

  • 트레이스 출력 포맷(Perfetto Protobuf, Chrome JSON)은 외부 표준을 따르므로 안정적입니다.
  • CLI는 기능 연결이 진행 중이라 릴리즈에 따라 옵션 동작이 일부 바뀔 수 있습니다. 특히 도메인별 트레이스 플래그는 지금 파싱만 되고 무시되므로, 앞으로도 계속 무시될 것이라고 가정하지 마십시오.
  • 폐기 예정 진입점(API, 옵션)은 폐기를 결정한 릴리즈에서 공지하며, 제거하기 전까지 최소 두 번의 후속 릴리즈 동안 유지합니다.