Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
본 기사는 ONNX(Open Neural Network Exchange)를 활용하여 다양한 머신러닝 모델의 추론 속도를 개선하는 방법을 검증했습니다. Keras, PyTorch는 물론 scikit-learn 같은 라이브러리까지 ONNX로 변환하여 성능 향상을 측정했으며, 각 경우에서 상당한 속도 개선 효과(최대 6.7배)를 확인했습니다.
Runcrate은 AI 개발자와 에이전트를 위한 GPU 클라우드 플랫폼입니다. 이 글에서는 Claude Code, Codex, Cursor 등 다양한 환경에서 MCP(Multi-Cloud Platform) 서버를 통해 GPU 자원을 빌리고 학습 및 평가 작업을 실행하는 구체적인 절차와 방법을 안내합니다.
본 기사는 Qwen3.8-27B 모델을 코딩 에이전트(Pi)의 실행 환경에 맞춰 미세 조정(fine-tuning)한 사례를 다룹니다. 단순히 지식을 추가하는 것이 아니라, 도구 사용법과 실제 업무 진행 과정 전체를 학습시켜 '업무 Agent'로서의 역량을 강화하는 데 초점을 맞추고 있습니다. 특히, 작업 흐름 전반(코드 확인, 편집, 도구 실행, 결과 보고 및 수정)을 학습 데이터로 활용하며, 관측 결과(observation result) 처리 방식에 대한 구체적인 방법론을 제시합니다.
기존 datasketch 라이브러리의 MinHashLSH는 메모리 사용량이 많아 LSHBloom을 사용하여 중복 처리를 시도했으나, 해당 기능이 Linux 전용이라 Windows 환경에서 사용할 수 없었습니다. 이에 따라 개발자가 Bloom 필터를 직접 구현하는 과정을 공유합니다.
본 기사는 3개 이상의 선택지 중 하나를 예측하는 다항 로지스틱 회귀(Multinomial Logistic Regression)에 대해 깊이 있게 다룹니다. 소프트맥스 함수와 음의 로그 우도, 기울기 유도를 직접 수행하며, SciPy 등을 활용하여 최적화 과정을 구현하고 scikit-learn 결과와 비교합니다.
본 글은 PyOD 라이브러리를 활용하여 시계열 데이터의 이상 탐지 기법들을 비교 분석한 내용입니다. Windowed Bridge, Frequency 등 다양한 탐지기를 테스트하며, 점 이상(point)과 부분 시퀀스 이상(subsequence) 유형에 따른 성능 차이를 확인했습니다. 이를 통해 목적과 데이터 특성에 맞춰 적절한 이상 탐지 기법을 선택하는 방법을 제시합니다.
본 글은 Kaggle 작업 자동화 시 발생할 수 있는 '실수 제출' 사고를 방지하는 방법을 다룹니다. Kaggle CLI 사용법을 소개하고, 특히 제출 직전에 반드시 사람의 확인(Confirmation Wrapper) 과정을 거치도록 설계하여 안전성을 높이는 것이 핵심입니다. 또한, 시간 제한이 있는 처리는 실제 운영 환경과 동일한 하드웨어에서 검증해야 함을 강조합니다.
본 기사는 단일 노드의 4개 GPU 환경에서 vLLM 서빙을 TP(텐서 병렬화)와 DP(데이터 병렬화)의 다양한 조합으로 구동하며 성능을 비교한 실측 기록입니다. 모델 크기 및 구성에 따라 최적의 병렬화 방식이 달라지며, 특히 Qwen3-8B/14B 같은 작은 모델은 DP가 유리하고, Qwen2.5-72B 같은 대형 모델은 TP가 우위를 보였습니다.
Apple Silicon Mac 환경에서 Vesuvius Challenge 추론 속도가 느린 원인을 분석하고 수정했습니다. 기존 코드가 CUDA 유무만 확인하여 MPS를 무시하고 CPU에 폴백(fallback)하는 문제가 있었습니다. 이를 개선하여 디바이스 선택 로직을 'CUDA -> MPS -> CPU' 순서로 변경하고, 관련 라이브러리 6개 파일을 업데이트함으로써 추론 속도를 약 9.7배 향상시켰습니다.
본 기사는 로지스틱 회귀 분석을 최대우도 추정(MLE) 관점에서 깊이 있게 다룹니다. 목적함수와 기울기 및 헤세 행렬을 직접 유도하고, 뉴턴법을 사용하여 라이브러리 결과와 비교하는 과정을 설명합니다. 이를 통해 MLE의 원리와 로지스틱 회귀 모델링의 수학적 배경 지식을 습득할 수 있습니다.
로컬 LLM을 분석하는 도구를 개발하며, 채팅 템플릿(chat template)의 중요성을 발견했습니다. 입력 방식만 변경했을 뿐인데도, 템플릿 사용 여부에 따라 모델의 응답 품질과 종료 메커니즘이 완전히 달라지는 것을 확인했습니다.
본 기사는 회귀 분석을 '오차의 제곱합 최소화'라는 수리 최적화 문제로 접근합니다. 단일 및 다중 회귀를 직접 수식으로 풀고, 라이브러리 결과와 비교하는 과정을 설명하며, 미분과 행렬 개념을 활용하여 통계적 모델링 원리를 깊이 있게 이해하도록 돕습니다.
본 글은 AI 비디오 생성기(Text-to-Video, Image-to-Video)를 평가하기 위한 실용적인 체크리스트를 제시합니다. 일관성 유지 여부, 시각적 세부 사항의 보존, 그리고 다양한 설정값(모델, 해상도, 지속 시간 등)을 비교하는 것이 중요하다고 강조합니다. 공정한 테스트를 위해 프롬프트와 소스 이미지를 고정하고, 시간적 일관성, 움직임 품질, 비용 등을 체계적으로 측정할 것을 권장합니다.
본 글은 Latent Diffusion Model(LDM)과 Cross-Attention을 구현 관점에서 분석합니다. LDM이 픽셀 공간 대신 잠재 공간에서 노이즈 예측을 수행하는 원리를 설명하며, Stable Diffusion v1의 공식 설정을 기반으로 U-Net, VAE, 스케줄러 등의 각 모듈 경계와 계산 과정을 상세히 다룹니다.
OpenAI의 Decisions API는 문의 분류 외에 판단이 모호하거나 보류가 필요한 경우를 처리하는 데 적합합니다. 본 기사는 GPT-6 Luna 모델을 사용하여 후보와 확률 정보를 읽고, Python으로 분배 처리를 구현하는 방법을 다룹니다. 특히 choice 유형에 초점을 맞춰 안정적인 운영 로직을 구축하는 것이 중요함을 강조합니다.
본 글은 RAG(Retrieval-Augmented Generation) 시스템의 정확도 평가 방법을 다룹니다. 특히, 실무자가 작성한 모범 답안에는 검색 대상 문서 외의 외부 지식이 포함될 수 있음을 강조합니다. 따라서 정답 데이터를 요소별로 나누어 '문서 내 여부', '검색 가능 여부', '답변 적합성'을 분리 측정하는 평가 설계가 필요함을 제시합니다.
어획 기록 앱 개발 과정에서, 평가 스크립트를 통해 신모델의 성능 향상을 확인했으나, 실제 기기 테스트 결과와 큰 괴리가 발생했습니다. 이는 모델이나 데이터 문제가 아닌, '평가하는 방식' 자체에 근본적인 오류가 있었음을 보여줍니다.
본 글은 경마 예측 AI를 개발하며 '모델의 정확도'보다 '시장 가격과 모델 예측 간의 괴리(Mispricing)'를 학습하는 것이 중요함을 강조합니다. 시장이 이미 내포한 정보를 활용하기 위해, 단순히 승률을 맞추는 대신 시장 대비 과대평가된 확률을 찾아내는 정식화 방법을 제시합니다.
본 글은 RTX 3060 같은 가정용 GPU 환경에서 LLM 가중치 행렬을 저랭크 분해 및 이진화 기법으로 압축하는 개인적인 실험 기록입니다. Qwen2.5-1.5B-Instruct의 특정 가중치 행렬을 약 50분의 1로 줄이는 데는 성공했으나, 원래 계산을 재현할 때 약 88~90%의 높은 상대 RMS 오차가 발생하는 것을 확인했습니다.
본 글은 Python, scikit-learn, MLflow, FastAPI를 활용하여 MLOps의 기본적인 흐름을 단계별로 안내합니다. 데이터셋으로 모델 학습 및 파라미터 실험 방법을 익히고, MLflow를 이용해 실험 결과와 모델을 체계적으로 관리하는 과정을 다룹니다. 마지막으로 FastAPI를 사용하여 학습된 모델을 외부에서 호출할 수 있는 추론 API를 구축하는 실습 가이드입니다.