엔비디아가 벼려온 CUDA라는 성벽에 균열이 가기 시작했다. 인공지능(AI) 모델의 성지 허깅페이스(Hugging Face)가 AMD 하드웨어의 핵심 엔진인 ROCm(Radeon Open Compute) 커널을 직접 빌드하고 공유할 수 있는 기능을 생태계 전면에 통합했다. 이제 개발자들은 값비싼 H100이나 B200의 할당량을 기다리는 대신, 리눅스 터미널에서 명령어 몇 줄로 AMD 인스틴트(Instinct) 가속기의 잠재력을 끌어낼 수 있게 됐다.

독점의 끝인가, 대안의 시작인가

그동안 고성능 AI 모델 최적화는 엔비디아의 전유물이었다. 플래시 어텐션(Flash Attention) 같은 핵심 커널은 CUDA 기반으로 작성되어 AMD 하드웨어에서 구동하려면 복잡한 포팅 과정을 거쳐야 했다. 하지만 허깅페이스는 이번 업데이트를 통해 ROCm 커널의 빌드 과정을 추상화했다. 이제 optimum-amd 라이브러리를 통해 트리톤(Triton) 기반의 커스텀 커널을 AMD GPU에 즉시 배포할 수 있다.

이 변화는 2026년 현재 가장 뜨거운 감자인 '컴퓨트 주권'과 직결된다. GPT 5.2와 클로드 4.5 수준의 초대형 모델을 학습시키고 추론하는 데 드는 비용이 천문학적으로 치솟으면서, 기업들은 엔비디아의 대안을 절실히 찾아왔다. 허깅페이스의 이번 조치는 AMD 가속기를 단순한 '보조 하드웨어'에서 '실전 투입 가능한 1군 선수'로 격상시키는 전환점이다.

10%의 세금: 포팅의 명과 암

물론 장밋빛 미래만 있는 것은 아니다. CUDA 전용으로 설계된 커널을 ROCm으로 옮길 때 개발자는 약 10%에서 30% 사이의 '성능 세금'을 지불해야 한다. 엔비디아의 워프(Warp, 32개 스레드 단위)와 AMD의 웨이브프론트(Wavefront, 64개 스레드 단위)라는 근본적인 아키텍처 차이 때문이다.

특히 엔비디아 전용 인라인 어셈블리인 PTX 코드는 AMD 하드웨어와 직접 호환되지 않는다. 딥시크-V4(DeepSeek-V4)처럼 극한의 최적화를 요구하는 최신 모델을 AMD에서 제대로 돌리려면, AMD의 매트릭스 코어(MFMA)를 활용하도록 코드를 수동으로 수정하는 고통스러운 작업이 여전히 필요하다. 허깅페이스가 빌드 과정을 단순화했지만, 하드웨어의 밑바닥까지 긁어쓰는 성능 최적화 영역은 여전히 전문가의 영역으로 남아 있다.

인스틴트와 라데온의 보이지 않는 벽

이번 지원이 모든 AMD GPU 사용자에게 평등한 것은 아니다. 허깅페이스는 AMD 인스틴트 MI300 및 신형 MI400 시리즈를 '일등 시민'으로 대우한다. 이들 엔터프라이즈급 GPU는 HBM3 메모리 대역폭과 FP4, FP8 같은 저정밀도 연산에 특화된 전용 커널을 사용한다.

반면 일반 소비자용인 라데온 RX 7000 및 RX 9000 시리즈 사용자들은 '작동은 하지만 최고는 아닌' 경험을 하게 될 가능성이 크다. 인피니티 패브릭(Infinity Fabric)을 통한 멀티 GPU 스케일링 기능이 하드웨어 수준에서 차단되어 있어, 대규모 언어 모델(LLM)을 여러 장의 라데온 카드에 나눠 올릴 때 효율이 급격히 떨어진다. 허깅페이스의 도구는 호환성이라는 문을 열어주었을 뿐, 소비자용 하드웨어가 엔터프라이즈의 성능을 낼 수 있게 만드는 마법 지팡이는 아니다.

파이토치 3.0 시대를 향한 촉매제

업계는 이번 협력이 파이토치(PyTorch) 3.0의 로드맵에 미칠 영향에 주목하고 있다. 파이토치의 최신 컴파일러 스택인 토치인덕터(TorchInductor) 내에서 AMD 백엔드의 성숙도는 그동안 CUDA에 비해 뒤처져 있었다. 허깅페이스가 ROCm 커널 공유를 표준화함에 따라, 전 세계 개발자들이 생성하는 최적화 데이터가 AMD 생태계로 빠르게 수혈될 전망이다. 이는 결과적으로 트리톤 중심의 생태계가 엔비디아의 독점적 지위를 흔드는 가장 강력한 무기가 될 수 있다.

실전 적용: 개발자가 지금 해야 할 일

AMD 하드웨어를 보유한 조직이라면 지금 즉시 optimum-amd 라이브러리를 업데이트해야 한다. 기존의 복잡한 ROCm 소프트웨어 스택 설치 과정 없이도 허깅페이스 허브에서 검증된 커널을 불러와 모델 추론 속도를 즉각적으로 개선할 수 있다. 특히 FP8 정밀도를 활용한 모델 배포를 준비 중이라면, 허깅페이스가 제공하는 쿼크(Quark) 최적화 도구와 연동하여 메모리 사용량을 절반으로 줄이는 시나리오를 검토해야 한다.

FAQ

Q: 기존 CUDA 코드를 그대로 쓸 수 있는가? A: 아니오. 직접적인 호환은 불가능하다. HIP(Heterogeneous-interface for Portability)를 통해 변환하거나, 허깅페이스가 제공하는 트리톤 기반 커널을 사용하여 AMD 아키텍처에 맞게 재컴파일해야 한다.

Q: 라데온 RX 9000 시리즈에서도 인스틴트만큼의 성능이 나오는가? A: 불가능하다. 라데온 시리즈는 HBM 메모리가 아닌 GDDR을 사용하며, 엔터프라이즈용 저정밀도 연산 가속기가 하드웨어적으로 제한되어 있어 인스틴트 시리즈와는 명확한 성능 차이가 존재한다.

Q: 이번 업데이트로 엔비디아 GPU 가격이 내려갈까? A: 직접적인 가격 하락보다는 수급 불균형 해소에 기여할 것이다. 대안 하드웨어에서 모델 구동이 쉬워질수록 엔비디아에 대한 의존도가 낮아져 전체적인 연산 자원 확보 비용이 안정화될 가능성이 크다.

결론

허깅페이스의 ROCm 커널 지원은 AI 민주화를 향한 중요한 진전이다. 하드웨어 종속성이라는 족쇄를 풀고 개발자들에게 더 넓은 선택지를 제공했다는 점에서 이번 조치는 높게 평가받아야 한다. 비록 성능 손실과 아키텍처의 차이라는 숙제가 남아 있지만, 소프트웨어 스택이 하드웨어의 한계를 메우기 시작했다는 사실만으로도 2026년 AI 시장의 판도는 크게 요동칠 준비를 마쳤다. 이제 공은 최적화된 커널을 내놓아야 할 AMD의 엔지니어들에게 넘어갔다.

참고 자료

• 🛡️ ROCm vs CUDA: Which GPU Computing System Wins in December 2025?
• 🛡️ AMD ROCm 7.0 To Align HIP C++ Even More Closely With CUDA
• 🛡️ Hugging Face on AMD Instinct MI300 GPU
• 🛡️ Framework + ROCm support matrices (2026-01-09)
• 🏛️ Easily Build and Share ROCm Kernels with Hugging Face
• 🏛️ AMD ROCm Hardware Compatibility
• 🏛️ Easily Build and Share ROCm Kernels with Hugging Face