AMD, 개발자를 위한 AI 기반 플랫폼 ROCm.AI 발표

AMD

최근 ROCm 7.14 출시 이후, ROCm.AI는 개발자들이 자신의 코드를 ROCm에서 실행할 수 있도록 적응시키는 데 AI를 활용할 수 있도록 돕는 8월의 차기 릴리스의 일부가 될 예정입니다.

ROCm.AI는 Claude, Codex, Cursor, Gemini와 같은 인기 있는 에이전트들이 "ROCm 슈퍼유저"가 될 수 있도록 기술을 제공하여, ROCm 기반의 코드베이스를 적응시키거나 개선하기 위한 AI 지원 최적화를 제공하며, 새로운 Hyperloom 컴포넌트를 통해 엔드 투 엔드 (end-to-end) AI 워크로드 최적화가 가능합니다. Hyperloom은 엔드 투 엔드 추론 (inference) 워크로드의 최적화를 자동화하는 것을 목표로 하며, 수동으로 작업할 때보다 훨씬 짧은 시간 내에 분석, 커널 최적화 (kernel optimizations) 및 검증을 지원합니다.

ROCm.AI는 AI 기반의 컴퓨팅 커널 (compute kernels), 메모리 관리 (memory management), 병렬화 (parallelization) 및 스케줄링 (scheduling) 최적화를 활용하여 AI 추론 (inference)과 학습 (training) 성능을 모두 향상시킵니다.

이론적으로 ROCm.AI는 환상적으로 들립니다. 즉, AI를 사용하여 AMD의 AI 스택에 맞춰 소프트웨어를 적응시키는 것입니다. 실제로 다양한 코드베이스에서 얼마나 잘 작동할지는 지켜보는 것이 흥미로울 것입니다. AMD의 주장에 따르면 ROCm.AI는 평균 3.3배의 추론 개선과 2.4배의 학습 개선을 제공한다고 합니다. 다만 이는 ROCm 7.0을 기준으로 비교한 수치입니다.

현재로서는 이러한 가벼운 세부 사항들이 전부이지만, 저희는 8월에 출시될 차기 릴리스를 통해 ROCm.AI에 대해 더 많은 것을 알게 되기를 기대하고 있습니다.