개조 개발자들이 비공식 소프트웨어 기술을 이용해 NVIDIA GeForce RTX 20, 30, 40 시리즈의 연산 성능 제한을 해제했습니다. 이 기술은 전문가용 GPU 수준으로 명령어 발행 속도를 높여 AI 필수 요소인 BF16 및 FP16 행렬 곱셈 처리량을 최대 2배까지 향상시킵니다.
핵심 포인트
RTX 20/30/40 시리즈의 연산 성능을 최대 2배로 끌어올림.
NVIDIA 펌웨어 스택에 의한 소비자용 GPU 제한을 우회함.
AI 워크로드 필수 요소인 BF16 및 FP16 처리량이 크게 증가함.
리눅스 커널 모듈 기반으로 드라이버 패치 없이 적용 가능.
AI 자동 생성 콘텐츠
본 콘텐츠는 퀘이사존 하드웨어 뉴스의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
RTX 4090 Unlocked: NVIDIA's Half-Speed AI Lock Breaks on the 40 Series
GeForce 성능 제한 해제: 개조 개발자들이 RTX 20·30·40 시리즈의 연산 성능을 최대 2배 높이다
출처: TechPowerUp
기사 제목 원문: GeForce Unlocked: Modders Boost RTX 20, RTX 30, and RTX 40 Compute Performance by Up to 2x
핵심 주제: NVIDIA GeForce 그래픽카드의 특정 AI 연산 성능을 높이는 비공식 소프트웨어 개조 기술
NVIDIA의 GeForce RTX 30 시리즈 및 RTX 40 시리즈 그래픽 카드는 전문가용 GPU와 동일한 다이(die)를 기반으로 합니다. 이는 소비자용 RTX GPU의 연산 성능이 NVIDIA의 펌웨어 스택에 의해 제한된다는 것을 의미하지만, 모더들은 전문가용 GPU에 상응하는 명령어 발행 속도를 해제하는 데 성공했습니다. GeForce RTX 30 시리즈 ‘Ampere’를 시작으로, 한 연구원은 GA102, GA103, GA104 및 GA106 카드에서 FP/BF16 FMA 연산을 FP32 연산으로 변환하는 명령어 발행 속도를 사실상 두 배로 높이는 잠금 해제 기술을 개발했습니다. 그 결과, GeForce RTX 3090 Ti와 같은 그래픽 카드는 BF16에서 행렬 곱셈 속도가 최대 80%까지 향상되었으며, 이는 거의 모든 신경망을 실행하는 데 필수적인 요소입니다. 이 잠금 해제 기술은 GA102, GA103, GA104 및 GA106 기반 GeForce RTX 그래픽 카드를 지원합니다.
[GPU 언락 1.1.1 - RTX 4090, RTX 4070 Ti SUPER 및 RTX 4060 Ti 16GB
이 프로젝트를 처음 이용하시나요? 복사-붙여넣기 방식의 ‘빠른 시작’ 가이드부터 시작해 보세요.
이 리눅스 커널 모듈은 기본 NVIDIA 드라이버가 시작되기 전에 SM 속도 선택 설정을 재정의할 수 있게 해줍니다.
RTX 4090(10de:2684, AD102) 지원 시, FP32 누적 연산을 적용했을 때 FP16 및 BF16 텐서 처리량이 약 2배 향상된 것으로 확인되었습니다:]
GPU 언락 1.0.0
Nvidia 3000 시리즈 그래픽 카드의 FP/BF16 명령어 발행 속도를 해당 프로페셔널급 모델 수준으로 해제합니다.
이 리눅스 커널 모듈은 CMP 언락기의 V67/PLM 기법과 UEFI 방식의 프리드라이버 타이밍을 결합한 것입니다.
이 모듈은 잠금 해제 작업을 실행하고, 속도 선택기(전체 BF16 속도를 선택하는 SS0 0x88888888 및 4비트 SS1 0x8 IMLA4)를 기록한 후,
수정되지 않은 NVIDIA 드라이버가 그래픽 카드를 바인딩하기 전에 FLR을 수행합니다. 이는 UEFI 애플리케이션도, 패치된 NVIDIA 드라이버도 아닙니다.
이 초기 kmod 드라이버의 장점은 NVIDIA가 새로운 드라이버 버전을 출시할 때마다 수동으로 패치를 적용할 필요가 없다는 점입니다.
이 잠금 해제의 효과로 인해 GA102, GA103, GA104 및 GA106 카드에서 FP/BF16 FMA를 FP32 연산으로 변환하는 명령어 발행 속도가 두 배로 증가합니다.
450W에서 3090 Ti의 고밀도 81923 GEMM, FP32 누적 연산을 사용한 5개 샘플의 중앙값:
다음으로, GeForce RTX 40 시리즈 “Ada Lovelace”를 살펴볼 차례입니다. 이 시리즈는 FP32 누적 연산을 통해 FP16 및 BF16 텐서 처리량에서 무려 2배의 성능 향상을 보여준 또 다른 프로젝트를 선보였습니다. GeForce RTX 4090을 FP16 텐서 처리량 및 행렬 누적 성능 테스트에서 측정했을 때, GPU는 165.6 테라플롭스를 기록했으나, 잠금 해제 후에는 이 수치가 331.6 테라플롭스로 상승했습니다. 이러한 연산 성능 수치는 일반적으로 NVIDIA RTX 6000 “Ada Lovelace”와 같은 고성능 전문가용 제품군에서만 볼 수 있는 것이기 때문에 이는 매우 흥미로운 결과입니다. NVIDIA는 연산 집약적인 행렬 곱셈 및 누적 연산에서 AD102 칩의 성능을 인위적으로 제한하여, 대규모 언어 모델 실행 성능에 영향을 미친 것으로 보입니다. 이번 잠금 해제 조치로 AD102, AD103, AD106이 공식적으로 잠금 해제되었습니다.
Turing-unlock
ASUS RTX 2080 Ti (TU102, SM75)에서 OS 부팅 전 휘발성 텐서 연산 잠금 해제에 대한 보드별 연구입니다.
2026년 10월 22일에 물리적 v4 실행 1회가 성공했습니다. 이 저장소에는 로더 소스 코드, 호스트 측 테스트, 벤치마크 코드 및 측정 결과가 공개되어 있습니다.
이는 범용 설치 프로그램이나 VBIOS 수정본이 아닙니다.
측정 항목
이 두 가지 별개의 GPU 잠금 해제 기능은 거의 동시에 등장했는데, 하나는 GeForce RTX 30 시리즈 “Ampere”에서, 다른 하나는 GeForce RTX 40 시리즈 “Ada Lovelace”에서 시연되었습니다. 두 잠금 해제 기능 모두 NVIDIA의 드라이버 검사를 성공적으로 통과하고 PCIe 기능 레벨 리셋(FLR)을 무효화하며, 기본 NVIDIA 드라이버를 실행하는 상태에서도 CUDA 벤치마크가 정상적으로 수행됩니다. 예를 들어, GA102와 AD102 모두에서 언락 전후로 동일한 450W TGP 보드 전력이 사용됩니다. 로컬 LLM과 같은 연산 집약적 작업을 수행하는 사용자의 경우, 추가된 연산 성능 덕분에 프리필(prefill) 및 디코딩 단계에서 토큰 처리량이 크게 향상되어 더 높은 성능을 누릴 수 있습니다. 다만, GPU를 개조할 경우 보증이 무효화된다는 점에 유의해야 하며, NVIDIA 드라이버가 카드를 커널에 바인딩하기 전에 이러한 개조 사항이 적용되도록 부팅 시 활성화해야 합니다.
-끝-
현재 가능한 GPU list
출처:
======= AI로 의미 분석 =========
1. GeForce 그래픽카드의 잠재된 연산 성능을 끌어내다
개발자들이 NVIDIA의 GeForce RTX 20, RTX 30, RTX 40 시리즈 그래픽카드에서 특정 연산 성능을 높이는 방법을 찾아냈다.
이 기술은 그래픽카드에 탑재된 텐서 코어(Tensor Core)의 일부 연산 처리 속도에 적용된 제한을 해제하는 방식이다. 특정 AI 연산에서는 이론적으로 최대 2배에 가까운 성능 향상을 기대할 수 있다.
다만 모든 작업의 성능이 2배로 높아지는 것은 아니다. 성능 향상 폭은 그래픽카드 모델과 연산 정밀도, 실행하는 AI 프로그램에 따라 달라진다.
이 기술은 특히 다음과 같은 작업에 유용할 가능성이 있다.
대규모 언어 모델(LLM)의 연산
AI 이미지 생성
딥러닝 모델의 행렬 연산
FP16 및 BF16 정밀도를 사용하는 AI 작업
반면 일반적인 게임의 프레임 속도가 크게 높아지는 기술은 아니다.
어떻게 성능 제한을 해제하는가?
NVIDIA는 GeForce 제품군과 전문 작업용 그래픽카드 제품군에 서로 다른 성능 특성을 적용하고 있다.
일부 GeForce 그래픽카드는 전문 작업용 제품과 동일하거나 유사한 GPU 칩을 사용하지만, 특정 텐서 코어 연산에서는 처리량이 제한되어 있다.
이번에 공개된 방법은 GPU의 저수준 설정을 변경해 이러한 제한을 해제하는 것이다.
주요 특징은 다음과 같다.
그래픽카드의 물리적 하드웨어를 교체할 필요가 없다.
그래픽카드의 VBIOS를 영구적으로 수정하지 않는 방식이 있다.
일부 구현은 NVIDIA 드라이버 자체를 수정하지 않고 작동한다.
특정 AI 연산의 처리량을 크게 높일 수 있다.
다만 지원되는 그래픽카드와 소프트웨어 환경이 제한적이다. 특히 Linux에서 검증된 방법이 중심이므로 Windows 사용자라면 자신의 시스템에서 바로 사용할 수 있다고 가정해서는 안 된다.
실제 연산 성능은 얼마나 높아지는가?
RTX 3090 Ti를 대상으로 수행한 행렬 연산 벤치마크에서는 상당한 성능 향상이 보고되었다.
