완전한 소프트웨어 마이그레이션 준비
GPU 연산을 실행하는 구성 요소를 나열하세요: PyTorch, 어텐션 라이브러리, 양자화, 그리고 필요하다면 자체 연산자까지 포함합니다. 이식 가능한 Python 스크립트가 CUDA 전용 확장에 의존할 수 있습니다. 대규모 작업을 시작하기 전에 선택한 ROCm 버전에서 각 구성 요소를 검증하세요.
ROCm용 PyTorch에서도 GPU를 가리킬 때 torch.cuda 인터페이스가 계속 사용됩니다. 따라서 모든 항목을 기계적으로 «hip»로 바꾸지 마세요. 설치된 백엔드를 확인하고 작은 실제 연산을 테스트하세요.
대표성 있는 테스트로 192GB 활용하기
이 용량은 큰 모델, 활성화 또는 캐시를 위한 여유를 제공합니다. 다만 이것만으로 모델의 최대 크기를 추정할 수는 없습니다. 정밀도, 입력 길이, 적응 방식, 임시 공간 등이 총 필요량을 바꾸기 때문입니다.
가장 긴 입력과 전체 백업을 포함한 사례를 준비하세요. 플랫폼 간에 파일이 동일해야 한다는 암묵적 요구 대신, 작업에 맞게 정의한 허용 오차를 두고 마이그레이션 결과의 수치를 비교하세요.
NVIDIA 경로를 유지해야 할 때
핵심 확장 기능에 사용할 수 있는 ROCm 경로가 없다면, 141GB의 H200 SXM이 CUDA를 유지하면서 프로젝트를 단순화할 수 있습니다. 이미 이식 가능한 소프트웨어지만 워크로드가 더 작다면 실제 필요량을 80GB 카드와 비교해 보세요. 추가 메모리는 진단을 대체하는 것이 아니라 확인된 문제를 해결하는 데 쓰여야 합니다.
임대를 검증 단계로 나누기
설치와 테스트, 차이 기록에는 3일을 사용하고, 의존성 안정화와 출력 비교에는 7일을 사용하며, ROCm 경로가 검증된 캠페인에는 30일을 사용하세요. 시스템 배포판과 라이브러리 버전을 매니페스트에 기록하세요.
MI300X와 기간, 배치, 그리고 ROCm 스택에 맞는 준비 작업을 선택하세요. 이름, 성, 이메일은 주문 연락처로만 사용되며 KYC 신분 증명 서류는 요구되지 않습니다. 그런 다음 암호화폐 결제 방식을 선택하고 「결제했습니다」로 전송을 알리세요.