최근 "Claude Code"라는 agentic AI platform을 사용하여 NVIDIA의 CUDA backend를 AMD의 ROCm platform으로 단 30분 만에 성공적으로 porting한 사례가 보고되었습니다. 이 사건은 NVIDIA의 "CUDA moat" (독점적 생태계) 종식을 의미할 수 있으며, 두 GPU ecosystem 간의 격차를 좁힐 잠재력을 보여주어 coding community에 큰 파장을 일으켰습니다.

"Claude Code"의 핵심 methodology는 agentic framework를 기반으로 합니다. 이는 단순히 CUDA keyword를 ROCm keyword로 기계적으로 대체하는 것을 넘어, agentic intelligence를 활용하여 specific kernel의 underlying logic이 일관성을 유지하도록 보장하는 것입니다. 즉, CUDA code의 semantic meaning을 이해하고, 이를 ROCm platform의 equivalent operation으로 지능적으로 mapping하여 porting을 수행합니다. 예를 들어, 특정 CUDA API 호출이 수행하는 계산적 의도를 파악하고, ROCm에서 동일한 기능을 달성하기 위한 최적의 방법을 선택하거나, 심지어는 data layout 차이를 지능적으로 조정하여 code의 기능을 보존합니다. Redditor는 porting 과정에서 "data layout" 차이만이 유일한 문제였다고 언급했는데, 이는 "Claude Code"가 low-level의 hardware-specific한 부분을 어느 정도 이해하고 처리할 수 있음을 시사합니다. 이 접근 방식은 Hipify와 같은 복잡한 translation environment를 설정할 필요 없이 CLI를 통해 직접 porting 작업을 수행할 수 있다는 큰 장점을 제공합니다.

하지만, 이 기술에는 몇 가지 중요한 제약 사항과 논쟁의 여지가 있습니다. Redditor가 porting한 codebase의 복잡성이 명확히 명시되지 않았는데, ROCm이 CUDA platform의 여러 측면을 모방하고 있다면, 간단한 kernel의 porting은 AI에게 그리 복잡하지 않을 수 있습니다. 그러나 상호 연결된(interconnected) codebase의 경우, 효과적인 porting을 위해서는 agentic system에 "extensive context"가 필요하게 되어 난이도가 급증할 수 있습니다. 더욱이, kernel 작성의 핵심은 "deep hardware" optimization을 보장하는 것이며, "Claude Code"와 같은 AI는 specific cache hierarchies와 같은 미세한 hardware optimization에 있어서는 아직 한계가 있을 수 있다는 비판이 제기되고 있습니다. Microsoft와 ZLUDA와 같은 프로젝트를 통해 CUDA 'moat'를 깨려는 노력은 수개월 동안 진행되어 왔지만, GPU-accelerated performance를 위한 kernel 작성에 있어서 NVIDIA는 여전히 지배적인 위치를 차지하고 있습니다.