콘텐츠로 이동
HyperAccel SDK Documentation
OpenAI 호환 API
한국어
English
검색 초기화
GitHub
HyperAccel SDK Documentation
GitHub
개요
시작하기
시작하기
빠른 설치
드라이버 설치와 설정
드라이버 설치와 설정
개요
지원 환경
설치하기
설치 확인
업그레이드와 제거
빠른 시작
튜토리얼
소프트웨어
소프트웨어
Legato Language
Legato Language
개요
프로그래밍 가이드
프로그래밍 가이드
개요
프로그래밍 모델
PyTorch 연동
Legato로 PyTorch 모델 컴파일하기
데코레이터와 세션
Argument Binding
컴파일러 세션
컨텍스트 관리
레이아웃과 메모리 종류
메모리 연산
Synchronization
타입
정적 평가
런타임 제어 흐름
Broadcasting
Bertha
Bertha
Bertha API
Bertha에서의 Broadcasting
Bertha 레이아웃
명령어 테이블 ABI
API 레퍼런스
API 레퍼런스
개요
텐서 연산
채널 연산
집합 연산
산술 연산
수학 연산
정적 연산
타입
예제와 튜토리얼
예제와 튜토리얼
개요
예제 실행하기
컴파일 diagnostics
단순 Matmul
Weight-Quantized Matmul
정적 멀티코어 스케줄링
텐서 메모리 패턴
수학 함수와 Masking
Broadcasting
Static Evaluation
Causal Attention
릴리즈 노트
Runtime
Runtime
개요
프로그래밍 가이드
프로그래밍 가이드
런타임 API
런타임 API
개요
실행 모델
메모리 모델
스트림과 이벤트
멀티 디바이스
에러 처리
문제 해결
가중치 변환
드라이버 API
드라이버 API
개요
실행 모델
메모리 모델
스트림과 이벤트
에러 처리와 리셋
API 레퍼런스
API 레퍼런스
개요
Python API
Python API
개요
Device
Memory
Execution
Streams
Events
TLB
VMM
Sampling
Weight Converter
Types
C++ API
C++ API
개요
런타임 API
런타임 API
Device
Memory
Execution
Streams
Events
TLB
VMM
Sampling
Types
Callback Params
Weight Converter
드라이버 API
드라이버 API
개요
Device Handle
Memory
Execution
Streams & Events
TLB
Types
환경 변수
에러 코드
지원 매트릭스
릴리즈 노트
Torch
Torch
개요
프로그래밍 가이드
프로그래밍 가이드
개요
디바이스 시맨틱
연산
분산
Paged KV 캐시
CUDA에서 이전하기
에러 처리
문제 해결
API 레퍼런스
API 레퍼런스
개요
디바이스 API
커스텀 연산
VMM API
연산 지원 목록
환경 변수
지원 매트릭스
릴리즈 노트
Torch Legato
Driver
Driver
개요
운영 가이드
운영 가이드
개요
기능
기능
텔레메트리
hang 감지와 워치독
FATAL과 복구
펌웨어 업데이트
여러 디바이스
도구
도구
hyperaccel-smi
ha-hotreset
ha-fw-update
ha-led
ha-wipe
레퍼런스
레퍼런스
sysfs 노드
커널 로그 메시지
문제 해결
커널 모듈 파라미터
커널 모듈 파라미터
설정과 사용법
파라미터 레퍼런스
예제와 튜토리얼
예제와 튜토리얼
개요
Prometheus로 텔레메트리 수집하기
카드 상태 헬스체크 만들기
문제 상황의 진단 정보 모으기
응답하지 않는 카드 복구하기
여러 카드의 펌웨어를 차례로 업데이트하기
릴리즈 노트
Profiler
Profiler
개요
프로그래밍 가이드
프로그래밍 가이드
개요
트레이스 수집
디바이스 트레이싱
트레이스 데이터 분석 가이드
주석
PyTorch 프로파일러 연동
문제 해결
API 레퍼런스
API 레퍼런스
개요
haprof CLI
Python API
Python API
개요
Annotations
Kineto
카운터 레퍼런스
환경 변수
지원 매트릭스
릴리즈 노트
CCL
CCL
개요
프로그래밍 가이드
프로그래밍 가이드
개요
커뮤니케이터
집합 연산
그룹
점대점
에러 처리
문제 해결
다중 노드 실행
API 레퍼런스
API 레퍼런스
개요
Python API
C++ API
C++ API
개요
커뮤니케이터
집합 연산
점대점
그룹
타입
환경 변수
에러 코드
지원 매트릭스
릴리즈 노트
커널
커널
개요
프로그래밍 가이드
프로그래밍 가이드
첫 커널 실행
행렬곱
다중 코어 덧셈
모델 서빙
모델 서빙
vLLM
vLLM
vLLM HyperAccel
튜토리얼
튜토리얼
Qwen3 8B
Qwen3 30B-A3B (MoE)
Gemma-4 31B
EXAONE-4.5 33B
Llama-2 7B
기능
기능
지원 기능
컨텍스트와 KV 캐시
LPU 샘플링
여러 LPU 사용하기
양자화
OpenAI 호환 서버
프로파일링
설정 가이드
문제 해결
클라우드 네이티브 지원
클라우드 네이티브 지원
개요
컨테이너 지원
쿠버네티스 지원
릴리즈
OpenAI 호환 API
¶
이 페이지는 옮겨졌습니다.
OpenAI 호환 서버
를 참고하세요.
맨위로