튜토리얼¶
예제와 튜토리얼은 각 구성요소 문서에 있습니다. 하려는 일에 맞는 곳으로 가십시오.
| 구성요소 | 해 볼 수 있는 것 |
|---|---|
| vLLM | 서버 띄우기, OpenAI 호환 API로 부르기, 지원 모델 |
| Torch | PyTorch 코드를 LPU로 옮기기, CUDA 코드에서 옮겨 오기, 여러 장에서 돌리기 |
| Compiler | 행렬곱 커널, 어텐션 커널, torch.compile로 모델 컴파일 |
| 커널 | 첫 커널 실행, 행렬곱, 다중 코어 덧셈 |
| Runtime | 메모리 다루기, 스트림과 이벤트, 여러 장 쓰기 |
| Profiler | 트레이스 남기기, 트레이스 데이터 분석 가이드, PyTorch 프로파일러와 함께 쓰기 |
| CCL | 커뮤니케이터 만들기, 집합 연산 |
| Driver | 설치 확인, 장치 리셋 |
| 클라우드 네이티브 | 컨테이너로 돌리기, 쿠버네티스에 올리기 |