AI/ML 엔지니어라면 반드시 구축해야 할 프로젝트들입니다.
1.) 커스텀 Triton Kernel (Custom Triton Kernel)
구축 내용: Triton을 사용하여 융합된 RMSNorm 또는 RoPE(Rotary Position Embedding) 커널을 구현하고, 네이티브 PyTorch와 벤치마킹합니다.
필요성: Python 오버헤드와 메모리 읽기 작업은 추론 속도를 저하시킵니다. 블랙박스로 취급하는 것은 최적화할 수 없습니다.
2.) 합성 데이터 큐레이션 엔진 (Synthetic Data Curation Engine)
구축 내용: 프런티어 모델(frontier model)을 사용하여 5만 개의 복잡한 로직 트레이스(logic traces)를 생성하고, 이를 결정론적 검증기(deterministic verifier)로 필터링하여 학습에 사용합니다.
필요성: 인터넷에는 인간이 작성한 텍스트가 고갈되고 있습니다. 고품질의 검증 가능한 합성 데이터는 궁극적인 학습 방어벽(training moat)입니다.
3.) MinHash 중복 제거 파이프라인 (MinHash Deduplication Pipeline)
구축 내용: 테라바이트 규모의 사전 학습 데이터를 스캔하여 MinHash와 LSH를 사용하여 근접 중복(near-duplicates)을 제거하는 확장 가능한 스크립트를 만듭니다.
필요성: 중복 데이터로 학습하면 모델이 암기(memorization)하게 되어 일반화 능력이 파괴되고 컴퓨팅 자원만 낭비됩니다.
4.) QLoRA + TIES 모델 병합기 (QLoRA + TIES Model Merger)
구축 내용: 단일 24GB GPU에서 70B 모델을 4비트로 미세 조정(fine-tune)한 후, TIES를 사용하여 기본 모델과 병합하여 그래디언트 충돌을 해결합니다.
필요성: 전체 미세 조정은 99%의 팀에게는 사장된 기술입니다. PEFT와 병합이 비용 효율적으로 프런티어 지능에 적응하는 방법입니다.
5.) KTO 정렬 플라이휠 (KTO Alignment Flywheel)
구축 내용: 쌍을 이루는 선호도 데이터(paired preference data)가 필요 없이, 이진 '좋음/나쁨' 신호를 사용하여 Kahneman-Tversky Optimization (KTO)으로 SFT 모델을 정렬합니다.
필요성: SFT는 무엇을 말할지 가르칩니다. 정렬은 어떻게 행동해야 하는지를 가르치며, KTO는 인간 주석 비용을 대폭 절감시킵니다.
6.) FSDP 멀티-GPU 학습 하네스 (FSDP Multi-GPU Training Harness)
구축 내용: Fully Sharded Data Parallel (FSDP)과 그래디언트 체크포인팅(gradient checkpointing)을 사용하여 7B 모델을 4개의 GPU에 분할하는 커스텀 학습 루프를 만듭니다.
필요성: 단일 GPU 학습은 튜토리얼용입니다. 프로덕션 연구는 인터커넥트를 병목 현상 없이 가중치(weights)를 분할해야 합니다.
7.) 희소 MoE 라우팅 레이어 (Sparse MoE Routing Layer)
구축 내용: 전문가 소멸(expert collapse)을 방지하기 위해 로드 밸런싱 보조 손실(load-balancing auxiliary loss)이 포함된 처음부터 Mixture of Experts(MoE) 라우터를 구축합니다.
필요성: 희소 MoE는 가장 똑똑한 모델들의 기반 아키텍처입니다. 단순한 라우팅은 그들의 지연 시간 이점을 파괴합니다.
8.) Vision-Language Projection Head
Build: 사용자 정의 시각적 추론을 위해 SigLIP 비전 임베딩을 LLM의 텍스트 임베딩 공간으로 매핑하는 경량 MLP 구축.
Why: 텍스트는 인터넷의 절반일 뿐이다. 모달리티를 네이티브하게 융합하는 것은 2026년 애플리케이션에 필수적이다.
9.) Automated Red-Team Fuzzer
Build: 안전 분류기에서 탈옥(jailbreak) 및 엣지 케이스를 체계적으로 찾기 위해 사고의 트리(tree-of-thought) 프롬프팅을 사용하는 적대적 에이전트 구축.
Why: 정적 벤치마크는 쉽게 속일 수 있다. 자체 모델을 지속적으로 공격하는 하네스(harnesses)를 구축해야 한다.
10.) AWQ 양자화 및 퍼플렉시티 추적기 (AWQ Quantization & Perplexity Tracker)
Build: 모델을 4비트 AWQ로 보정하고, 정확한 퍼플렉시티 저하를 측정하며, vLLM에서 지연 시간(latency) 이득을 벤치마킹한다.
Why: 양자화는 최첨단 모델(frontier models)을 엣지 GPU에 맞추고 클라우드 마진을 보호하는 유일한 방법이다.
11.) W&B 자동 하이퍼파라미터 스윕 (W&B Automated Hyperparameter Sweep)
Build: 검증 손실(validation loss)을 기반으로 학습률(learning rates)과 가중치 감쇠(weight decays)를 자동으로 검색하는 Weights & Biases와 통합된 Ray 클러스터 구축.
Why: 수동 튜닝은 추측이다. 자동 스윕은 특정 데이터 조합에 대한 수학적 최적값을 찾아낸다.
12.) 의미론적 복잡성 라우터 (Semantic Complexity Router)
Build: 프롬프트 엔트로피를 분석하여 간단한 질의는 로컬 8B 모델로, 복잡한 추론은 70B API로 라우팅하는 추론 게이트웨이 구축.
Why: 단위 경제학(Unit economics)이 AI 제품의 생존 여부를 결정한다. 라우팅은 마진을 보호한다.
13.) 사용자 정의 자동 미분 활성화 함수 (Custom Autograd Activation Function)
Build: C++/CUDA로 수동 작성된 순전파(forward) 및 역전파(backward) 패스를 가진 새로운 비선형 활성화 함수 구축.
Why: PyTorch의 autograd 블랙박스에 전적으로 의존한다면, 손실 곡선이 붕괴되는 것을 디버깅할 수 없다.
14.) 추측적 디코딩 파이프라인 (Speculative Decoding Pipeline)
Build: 로컬 2B 초안 모델(draft model)이 토큰을 제안하고, 이를 단일 순전파(forward pass)에서 검증하는 70B 대상 모델용 서빙 환경 구축.
Why: 품질 손실 없이 2배의 디코드 속도는 추론 분야에서 거의 공짜 점심(free lunch)과 같다.
15.) Arxiv 재현 및 HuggingFace 배포
구축: PyTorch로 500줄 미만의 코드로 완전히 새로운 논문을 재현하고, 가중치(weights), 학습 로그(training logs), 그리고 결과에 대한 상세 분석(teardown)을 공개합니다.
이유: 최고의 AI 연구소들은 학위가 아닌, 개인의 공개 저장소와 학습 방법론을 기반으로 ML 엔지니어를 채용합니다.
실제 모델 가중치(weights)와 물리적 원리(physics)를 다루면서 훈련(train), 정렬(align), 그리고 확장(scale)할 수 있음을 증명하는 시스템입니다.
대부분의 사람들은 튜토리얼을 시청합니다. 빌더는 시스템을 배포합니다.
북마크 및 재게시하세요.
[인용구 @suraj_sharma14: 만약 제가 AI/ML 엔지니어가 되기 위해 6개월의 시간이 주어진다면, 저는 이것을 할 것입니다.]
단계 1: 텐서 수학 및 PyTorch 내부 구조 커스텀 자동 미분(Custom autograd), CUDA 메모리 계층 구조(memory hierarchy), 혼합 정밀도 학습(mixed-precision training) (BF16/FP8), 스트라이드 계산(stride calculations), 연산자 융합(operator fusion).
단계 2: 데이터 큐레이션 및 합성 파이프라인 MinHash 중복 제거(deduplication), 진화적 ]