모두가 읽는 두 가지 주요 사양은 대략적인 이론적 한계치일 뿐입니다. 이 중 어느 것도 기계가 얼마를 벌어들이는지 또는 실제로 얼마나 많은 작업을 수행하는지를 예측하지 못합니다. 여기 실제 수치를 포함한 수학적 계산과, 이를 대체할 두 가지 가치 척도(figure of merit)가 있습니다.

하드웨어 구매 결정에는 두 가지 숫자가 지배적인 역할을 하지만, 두 숫자 모두 단독으로는 거의 쓸모가 없습니다. Bitcoin 채굴자에게는 초당 테라해시(terahash per second) 단위의 해시레이트(hashrate)가, GPU에게는 테라플롭스(teraflops) 단위의 FP16 처리량(throughput)이 그것입니다. 각각은 대략적인 이론적 한계치이며, 결과에 결정적인 영향을 미치는 변수를 숨기고 있습니다. 이 두 가지 주요 지표 중 하나에만 최적화한다면, 당신은 일상적으로 잘못된 기계를 구매하게 될 것입니다.

채굴: 이익은 하나의 항등식이며, 해시레이트는 그중 하나의 항입니다
일일 채굴 이익은 미스터리가 아닙니다. 그것은 단순한 항등식입니다:

일일 이익(profit_per_day) = 일일 수입(income_per_day) - 일일 전력 비용(power_cost_per_day)
일일 수입(income_per_day) = 해시레이트(hashrate) x 해시당 네트워크 수익(network_revenue_per_hash) x 코인 가격(coin_price)
일일 전력 비용(power_cost_per_day) = (와트(watts) / 1000) x 24 x 전기 요금(electricity_rate)

해시레이트는 수입 항목 내부에 한 번 나타납니다. 전력은 별도의 항으로, 차감됩니다. 이 둘을 결합하는 가치 척도는 효율성(efficiency)입니다:

효율성(efficiency, J/TH) = 와트(watts) / 해시레이트(hashrate)

전기 요금이 0.07 USD/kWh인 실제 카탈로그를 바탕으로 한 계산 예시입니다:

기계(Machine) | 해시레이트(Hashrate) | 전력(Power) | 효율성(Efficiency) | 일일 이익(Daily profit)
Whatsminer M79S | 1350 TH/s | 20000 W | 14.81 J/TH | ~$15.1
Antminer S23 Hyd 3U | 1160 TH/s | 11020 W | 9.50 J/TH | ~$23.3

M79S는 해시레이트가 약 16% 더 높지만, 이익은 약 35% 적게 법니다. 그 이유는 전적으로 효율성 열에 있습니다. 더 낮은 해시레이트에도 불구하고 11,020W인 것에 비해 20,000W를 사용하기 때문입니다. 카탈로그를 해시레이트 순으로 정렬하면 M79S가 상위권에 위치하지만, 일일 이익 순으로 정렬하면 훨씬 적은 해시를 생성하는 기계들 뒤로 밀려납니다. 결과에 영향을 미치는 것은 해시레이트가 아니라 효율성입니다.
이 차이는 세대가 거듭될수록 더욱 뚜렷해집니다:

기계(Machine) | 해시레이트(Hashrate) | 전력(Power) | 효율성(Efficiency) | 일일 이익(Daily profit)
Antminer S23 | 318 TH/s | 3498 W | 11.00 J/TH | ~$5.6
Antminer S19 XP Hyd | 512 TH/s | 10600 W | 20.70 J/TH | ~$0.7

318 TH/s 장비는 512 TH/s 장비보다 약 8배 더 많은 수익을 올리는데, 이는 줄(Joule)당 더 많은 작업을 수행하기 때문입니다. 한 세대 더 이전인 21~22 J/TH 수준의 S19급 하드웨어로 거슬러 올라가면, 동일한 비율에서 해시레이트(Hashrate)는 여전히 수백 테라해시(Terahash)를 나타내지만 일일 수익은 마이너스로 돌아섭니다.

모든 방정식의 부호를 하드웨어 선택보다 더 강력하게 뒤흔드는 두 번째 변수는 electricity_rate(전기 요금)입니다. 장비를 고정하고 요금만 변화시켜 보면, 수익은 주거용 요금(미국 대부분의 지역에서 0.130.22 USD/kWh)과 산업용 요금(0.040.08 USD/kWh) 사이의 어느 지점에서 마이너스에서 플러스로 전환됩니다. 동일한 장비라도 집에서는 손해를 보고 호스팅 시설에서는 수익을 냅니다. 정직한 ROI(투자 대비 수익) 모델은 요금을 사후 고려 사항이 아닌 최우선 입력값으로 취급하며, 이것이 바로 사용자가 직접 요금을 설정할 수 있는 실시간 수익 계산기만이 사용할 가치가 있는 이유입니다. 위의 채굴 수치들은 사용자가 입력한 어떤 요율에 대해서도 285대의 장비를 이 방식으로 순위 매기는 그러한 실시간 도구에서 가져온 것입니다.

AI: TFLOPS는 정점일 뿐이며, 실제 추론(Inference)은 측정의 영역이다
FP16 테라플롭스(Teraflops)는 칩의 이론적 정점 부동 소수점 연산 속도입니다. 다음 세 가지 이유로 인해 이는 실제 성능을 예측하는 데 부적절한 지표가 됩니다:

1. 제조사들은 종종 2:4 구조적 희소성(Structured Sparsity)을 적용한 FP16 수치를 인용하는데, 이는 대부분의 워크로드(Workload)가 실행되는 밀집 연산(Dense math) 대비 표기된 수치를 두 배로 높입니다.
2. 추론(Inference)은 일반적으로 연산 제한(Compute-bound)이 아닌 메모리 대역폭 제한(Memory-bandwidth-bound)을 받습니다. 카드는 가중치(Weights)와 활성화 값(Activations)을 이동시키는 데 시간을 소비하므로, 피크 FLOP 처리량이 구속 조건(Binding constraint)이 아닙니다.
3. 소프트웨어 스택, 커널(Kernels), 드라이버, 그리고 프레임워크 지원이 이론적인 하드웨어 성능에 얼마나 도달할 수 있는지를 결정합니다.

해결책은 데이터시트(Datasheet)를 읽는 것이 아니라 측정하는 것입니다. 실제 워크로드, 즉 언어 모델 토큰 생성(Language-model token generation), 확산 이미지 생성(Diffusion image generation), 비전(Vision) 등을 실행한 다음, 모든 카드를 공통된 기준선(Baseline)으로 정규화하십시오. RTX 3090을 인덱스 100으로 고정했을 때:

GPU FP16 TFLOPS 추론 인덱스 (Inference index) (RTX 3090 = 100)
RTX 3090 35.6 100
RTX 4090 165.2 133
RTX 5090 419.1 207
A100 40GB 312.0 152

RTX 4090는 3090의 사양상 테라플롭스 (paper teraflops)보다 약 4.6배 높지만, 측정된 추론 (inference) 성능은 약 1.33배를 제공합니다. 5090은 사양상 수치가 거의 12배에 달하지만, 실제로는 약 2배를 제공합니다. 이론적 비율 (theoretical ratio)과 측정된 비율 (measured ratio)은 서로 다른 양이며, 오직 측정된 비율만이 초당 토큰 수 (tokens per second)로 나타납니다.

학습 (Training)은 또 다른 별개의 축입니다. A100은 3090의 905와 비교했을 때 표준 벤치마크에서 초당 약 1,396개의 이미지를 처리하며 강력한 학습 처리량 (training throughput)을 기록하지만, 추론 인덱스 (inference index)에서는 152 정도에 머뭅니다. 한 가지 워크로드 (workload)에서의 카드 순위가 다른 워크로드로 이어지지는 않으므로, 테라플롭스 (teraflops)나 해시레이트 (hashrate) 같은 단일 스칼라 (scalar) 값으로는 하드웨어의 가치를 요약할 수 없습니다.

이것이 바로 워크로드 인덱스 벤치마크 (workload-indexed benchmark)가 필요한 이유입니다. MillionMiner의 GPU 및 AI 벤치마크 비교 (GPU and AI benchmark comparison)는 RTX 3090을 100으로 두고, 측정된 LLM, 이미지 및 비전 (vision) 성능을 기준으로 78개의 카드를 인덱싱합니다. 또한 VRAM과 학습 처리량 (training throughput)을 함께 제공하며, 데이터시트 (datasheet) 상의 수치가 아닌 측정된 격차를 보고하는 정면 승부 (head-to-head) 방식을 취합니다.