Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
RedditAI 번역요약
레이블이 부족할 때 최적화(Optimization)를 성공시키는 방법 [R]
레이블이 매우 부족한 환경에서 프롬프트와 분류기를 개선하는 자율 모델 엔지니어 Gnosys를 소개합니다. Gnosys는 기존의 GEPA 방식보다 뛰어난 성능을 보이며, 희소한 데이터 환경에서도 목적 함수를 직접 설계하여 최적화를 수행합니다.
7월 2일0
RedditAI 번역요약
지난 1월에 로컬 에이전트 발견 규격을 발표했습니다. 이번 주 Google이 인터넷 규모에서 동일한 핵심 아이디어를 발표했습니다.
AI 에이전트 간의 상호 발견과 신뢰 검증을 위한 규격인 LAD-A2A와 Google의 ARD를 비교 분석합니다. 로컬 네트워크와 인터넷 규모에서 에이전트가 서로를 식별하고 안전하게 통신하기 위한 표준화된 레이어의 필요성을 강조합니다.
7월 2일1
RedditAI 번역요약
P Moth-Retrieval: 쿼리 시점 오케스트레이션을 통한 그래프 없는 멀티홉 검색 (HotpotQA에서 그래프 기반 시스템을 능가함)
지식 그래프 구축 없이 쿼리 시점 오케스트레이션을 통해 멀티홉 검색을 수행하는 MOTHRAG 프레임워크를 공개했습니다. 기존 GraphRAG 등의 시스템이 겪는 데이터 업데이트 시의 재인덱싱 비용 문제를 해결하며, HotpotQA 등 주요 벤치마크에서 우수한 성능을 입증했습니다.
7월 1일0
RedditAI 번역요약
Plurality 출시: 로컬 AI를 위한 완전 무료 및 오픈 소스 AI 에이전트/챗봇 플랫폼
Plurality는 로컬 환경에서 실행 가능한 오픈 소스 AI 에이전트 및 챗봇 플랫폼입니다. 백그라운드 자동화와 즉각적인 대화 인터페이스를 결합하여 에이전트 워크플로우를 제공합니다.
7월 1일0
RedditAI 번역요약
훈련 코드나 설정을 조용히 망가뜨리곤 해서 pybench를 만들었습니다 [P]
지표의 통계적 회귀를 방지하기 위한 테스트 도구인 pybench를 소개합니다. pytest와 유사한 방식으로 시드 관리 및 벤치마크 베이스라인을 자동으로 관리하여 훈련 코드의 성능 저하를 감지합니다.
7월 1일1
RedditAI 번역요약
8GB에서 128GB까지, 각 RAM 계층별로 실제로 구동 가능한 로컬 LLM 매핑 (오픈 데이터셋)
사용 가능한 RAM 용량에 따라 구동 가능한 로컬 LLM의 파라미터 크기를 매핑한 오픈 데이터셋을 소개합니다. Q4_K_M 양자화 기준과 메모리 여유 공간을 고려한 경험 법칙을 바탕으로 8GB부터 128GB까지의 가이드를 제공합니다.
7월 1일1
RedditAI 번역요약
LokalBot - 로컬 macOS 앱: 회의록, 자동 완성 및 일일 활동 추적
LokalBot은 macOS 환경에서 모든 모델을 로컬로 구동하여 회의록 요약, 자동 완성, 활동 추적을 수행하는 앱입니다. 클라우드 연결 없이 Apple Silicon의 Neural Engine과 MLX를 활용하여 개인정보를 보호하며 강력한 워크플로우를 제공합니다.
7월 1일1
RedditAI 번역요약
AI에게 예산(Budget)을 부여하면 어떤 일이 벌어질까?
LLM에 실행 예산을 부여했을 때의 변화를 탐구한 실험 결과입니다. 예산 제한 시 모델은 불필요한 출력을 줄이고 요청된 핵심 작업 완료에 집중하며, 토큰 소비량을 46~60% 절감하는 효과를 보였습니다.
7월 1일1
RedditAI 번역요약
월간 투자자 업데이트를 작성해 보니 약 80%가 정보 수집 과정이었습니다
정기적인 투자자 업데이트 작성 시 글쓰기보다 정보 수집에 더 많은 시간이 소요됨을 발견했습니다. 데스크톱 AI 에이전트를 활용해 흩어진 데이터와 이메일을 수집함으로써 작업 효율을 극대화한 사례를 공유합니다.
6월 30일1
RedditAI 번역요약
NASA 데이터를 활용하여 니카라과의 소농들을 위한 AI 어드바이저 기반 농업 계획 시스템 데모를 구축했습니다
NASA의 기후 데이터를 활용하여 니카라과 소농들을 위한 AI 기반 농업 계획 시뮬레이션 시스템인 AgroVision 데모를 소개합니다. 사용자는 기후 시나리오, 작물 특성, 농기구 투입 등을 시뮬레이션하여 예상 수익과 생산량을 예측할 수 있습니다.
6월 29일1
RedditAI 번역요약
단일 컨텍스트 윈도우에서 GPT 스레드를 450k+ 토큰까지 확장하는 추론 시간 (inference-time) 도구를 제작했습니다
ELT(Epistemic Lattice Tethering) 프레임워크를 통해 GPT의 단일 컨텍스트 윈도우 내 일관성을 450k 토큰까지 확장하는 기술을 소개합니다. 이는 단순한 프롬프트 기법을 넘어 추론 시간 스캐폴딩을 통해 모델의 환각과 일관성 상실 문제를 해결합니다.
6월 29일1
RedditAI 번역요약
단일 GPU에서 듀얼 GPU로 전환하는 것은 좋지만, 제가 예상했던 방식은 아닙니다
VRAM 확장을 통해 모델의 양자화 수준을 높이기보다, 여러 개의 에이전트를 병렬로 운용하는 '분할 정복' 방식의 효율성을 강조합니다. 메인 오케스트레이터와 서브 에이전트 구조를 통해 처리량을 높이고 작업 효율을 극대화하는 전략을 제안합니다.
6월 29일1
RedditAI 번역요약
RAGless: 폐쇄형 도메인 FAQ를 위한 점수 집계 기반의 Q-Q 검색
RAGless는 문서 대신 질문 변형을 검색하여 답변을 찾는 Q-Q 매칭 기반의 시맨틱 검색 시스템입니다. 생성 단계를 제거하여 폐쇄형 FAQ 도메인에서 높은 정밀도와 효율성을 제공합니다.
6월 29일0
RedditAI 번역요약
내가 '망각하는 메모리'를 만든 이유
기존 AI 메모리 도구의 데이터 부패 문제를 해결하기 위해, 쓰기 단계에서 정보를 선별하여 저장하는 '망각하는 메모리' 방식을 제안합니다. 불필요한 정보를 제거함으로써 저장 공간을 절약하고 검색 속도를 높이는 트레이드오프를 구현했습니다.
6월 28일0
RedditAI 번역요약
5일 동안 LinkedIn 프로필 사진을 생성하며 찾아낸 실제로 작동하는 프롬프트
LinkedIn 프로필 사진 생성을 위해 참조 이미지의 정체성을 최우선으로 보존하는 프롬프트 구조화 전략을 소개합니다. 모델 변경보다 참조 이미지의 우선순위를 설정하는 것이 일관된 초상화 생성의 핵심임을 강조합니다.
6월 28일1
RedditAI 번역요약
구형 GPU에서 충돌 없이 실제로 실행되는 LLM 학습 프레임워크를 구축했습니다 [P]
구형 GPU(T4, V100 등)에서도 충돌 없이 실행 가능한 LLM 학습 프레임워크인 Picotron을 소개합니다. FlashAttention-2 등 하드웨어 특화 의존성을 제거하여 범용성을 높였으며, PyTorch SDPA를 통해 다양한 GPU 환경을 지원합니다.
6월 28일1
RedditAI 번역요약
자체 호스팅 Gemma 2 9B와 프론티어(Frontier) API 벤치마킹: NVIDIA L4에서의 FP8 양자화(Quantization)
NVIDIA L4 GPU 환경에서 Gemma 2 9B 모델의 FP8 양자화 성능을 벤치마킹한 결과입니다. 양자화가 디코딩 단계의 메모리 대역폭 효율은 높이지만, 연산 집약적인 프리필(Prefill) 단계에서는 지연 시간을 증가시키는 트레이드오프를 분석했습니다.
6월 28일1
RedditAI 번역요약
Raspberry Pi와 GPT 5.5를 사용하여 나만의 커스텀 Alexa 만들기
Raspberry Pi 5와 OpenAI의 GPT 모델을 활용하여 호출어(wake word)로 작동하는 커스텀 음성 비서를 구축하는 프로젝트를 소개합니다. 오픈 소스로 공개되어 있으며, 다양한 모델과 도구를 연결해 에이전트를 커스터마이징할 수 있습니다.
6월 27일1
RedditAI 번역요약
self-play RL을 사용하여 superhuman 수준의 Generals.io 에이전트를 만들었습니다
Self-play 강화학습을 통해 Generals.io 게임에서 인간 리더보드 1위를 달성한 superhuman 에이전트 개발 과정을 소개합니다. JAX 재구현과 Vision Transformer 도입을 통해 스케일링 효율을 극대화한 기술적 노하우를 공유합니다.
6월 26일1
RedditAI 번역요약
MiniMax 2.7 @47tg 1200pp
MiniMax 2.7 모델을 활용하여 에이전트 클래스 시스템을 구축한 사례를 소개합니다. 고사양 하드웨어 환경에서 MoE 모델과 시퀀싱 에이전트, 비동기 감시 모델을 결합한 루프 구조를 구현했습니다.
6월 26일2