안녕하세요 인터넷 친구 여러분, 수학이나 머신러닝 (ML) 사전 지식 없이도 자신만의 LLM을 구축하는 워크숍을 녹화했습니다. 워크숍이 끝날 때쯤이면 사람들은 자신만의 작동하는 OpenAI GPT2 스타일의 트랜스포머 (Transformer)를 갖게 될 것이며, 이것이 이 서브레딧(sub)에 유의미한 내용이 되기를 바랍니다. 이 워크숍은 머신러닝 (Machine Learning) 기초부터 심층 신경망 (Deep Neural Networks), 트랜스포머 (Transformer) 아키텍처, 그리고 사전/사후 학습 (Pre/Post-training)까지 모든 것을 다룹니다. 유일한 전제 조건은 코드와 엑셀 (Excel) 예제를 통해 배우는 것에 익숙해지는 것입니다.

대규모 언어 모델 (Large Language Models) 샘플링
대규모 언어 모델 (Large Language Model) 역공학 (Reverse Engineering)
퍼셉트론 (Perceptrons): wx+b
활성화 함수 (Activation Functions): ReLU, GELU, SwiGLU
GPU 코딩 (GPU Coding): PyTorch, torch.compile(), fused kernels, CUDA, Triton
MLPs/FFNs: 다중 입력 (Multi-input), 다층 퍼셉트론 (Multi-Layer Perceptrons), 피드포워드 네트워크 (Feed-Forward Networks)
손실 함수 (Loss Functions): 잔차 오차 (Residual errors), RMSE, 교차 엔트로피 (Cross Entropy), 손실 경관 (Loss Landscapes)
역전파 (Backpropagation): 학습 루프 (Training loops), 옵티마이저 (Optimizers), 학습률 (Learning Rate), 배치 크기 (Batch Size)
모델 저장 및 로드 (Saving & Loading Models)
초기화 (Initialization): Kaiming, Glorot
잔차 (Residuals): 덧셈 (Addition), 스케일링 (Scaling), 게이팅 (Gated), 연결 (Concatenation)
정규화 (Normalization): Pre-norm vs. Post-norm, RMSNorm, BatchNorm, LayerNorm
규제 (Regularization): 드롭아웃 (Dropout), 그래디언트 클리핑 (Gradient Clipping), 가중치 감쇠 (Weight Decay)
SoftMax
토크나이저 (Tokenizers): 문자 단위 (By Character), 단어 단위 (By Word), BPE, SentencePiece
임베딩 (Embeddings): 절대적 vs. 학습된 (Absolute vs. Learned), 정현파 vs. RoPE (Sinusoidal vs. RoPE)
어텐션 (Attention): MHA, GQA, MQA, MLA
트랜스포머 (Transformers) 사전 학습 (Pre-training): 데이터 소스 (Data Sources), 데이터셋 (Datasets), HTML 클리닝 (HTML Cleaning), 품질 필터링 (Quality Filtering), 샤딩 (Sharding)
평가 (Evaluation): 리더보드 (Leaderboards), 벤치마크 (Benchmarks), 검증기 vs. LLM-as-Judge (Verifiers vs LLM-as-Judge)
지시어 튜닝 (Instruction Tuning): Alpaca 및 기타 형식, Self Instruct, 역량 (Capabilities)
강화 학습 (Reinforcement Learning): 정책 최적화 (Policy Optimization), SimPO
다루지 않은 내용: 스케일링 (Scaling)

각 섹션은 개념을 가르치는 슬라이드, 수학적 직관을 기르기 위한 수작업 엑셀 (Excel) 과정, 그리고 코딩 예제로 구성되어 있습니다. 목표는 현대적 LLM 개발의 모든 부분을 완전히 이해하는 것입니다. 지난달 샌프란시스코 (San Francisco)에서 이 워크숍을 대면으로 진행했으며, 온라인으로 시청하는 방식이 모두에게 잘 맞기를 바랍니다. 영상 시청을 선호하지 않는다면, 슬라이드와 연습 문제를 가져가서 스스로 학습할 수도 있습니다.

/u/JustinAngel 님이 r/OpenAI 에 게시함 [link] [comments]