Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.
본 문서는 ggml 라이브러리를 활용하여 MiniGPT-4를 순수 C/C++로 추론하는 방법을 안내합니다. 사용자는 레포지토리를 클론하고, 운영체제(Windows, Linux, MacOS)에 맞는 빌드 환경을 설정한 후 CMake를 통해 라이브러리를 수동으로 빌드할 수 있습니다. 또한, 모델 파일은 Hugging Face에서 다운로드하여 사용할 수 있습니다.
Jina-Serve는 AI 서비스를 구축하고 배포하는 통합 프레임워크입니다. gRPC, HTTP, WebSockets을 지원하며, 로컬 개발부터 Kubernetes를 통한 프로덕션 환경까지 확장성을 제공합니다. 특히 스트리밍 LLM 서빙과 내장 컨테이너화 기능을 통해 엔터프라이즈급 서비스 구현에 용이합니다.
Hysia는 비디오, 제품 및 광고 분석을 위한 지능형 멀티모달 학습 기반 시스템입니다. 이 플랫폼은 제품 추천이나 비디오 검색 등 다양한 다운스트림 애플리케이션 구축에 활용될 수 있습니다. 현재 활발하게 개발 중이며, 관련 이슈나 풀 리퀘스트를 통해 기여할 것을 독려하고 있습니다.
VisualWebBench는 웹 시나리오에서 멀티모달 LLM(MLLM)의 이해 및 접지(grounding) 능력을 평가하기 위해 설계된 포괄적인 벤치마크입니다. 이 프레임워크는 139개 웹사이트와 1.5K개의 인스턴스를 포함하며, QA 스타일로 통일되어 다양한 MLLM의 성능 비교를 용이하게 합니다. 최근 업데이트된 MultiUI 데이터셋을 통해 UI 관련 및 Doc/OCR/차트 이해 작업까지 향상시켰습니다.
MixTeX는 LaTeX 수식, 표, 혼합 텍스트 등 멀티모달 콘텐츠를 인식하는 미니 프로그램입니다. GPU 없이도 CPU 기반 추론을 통해 로컬 오프라인 환경에서 효율적으로 작동하며, 중국어와 영어 처리를 모두 지원합니다.
본 자료는 뇌종양 분할(Brain Tumors Segmentation)과 관련된 프로젝트의 GitHub 저장소 및 Colab 노트북 링크를 제공합니다. 이는 의료 영상 처리 분야에서 종양 영역을 정확하게 분리하는 연구에 초점을 맞추고 있습니다.
pykale은 멀티모달 머신러닝 및 AI 개발의 복잡성을 줄여, 데이터와 최종 사용자 간의 격차를 해소하는 것을 목표로 하는 라이브러리입니다. PyTorch 기반으로 설계되어 학제 간 연구에 기계 학습을 더욱 쉽게 접근할 수 있도록 돕습니다.
본 문서는 생성형 심전도-언어 모델(ELMs)의 벤치마킹을 위한 통합 프레임워크를 소개합니다. 이 프레임워크는 ECG 데이터와 언어 모델을 결합하여 연구자들이 ELM 성능을 체계적으로 평가할 수 있도록 지원하며, OpenAI 및 OpenTSLM 등 다양한 최신 LLM과의 연동 기준선을 제공합니다.
PhyX는 모델의 물리적 추론 능력을 평가하기 위해 설계된 데이터셋 및 프로젝트입니다. 이 논문은 다양한 최신 LLM(Claude 3.7 Sonnet, GPT-o4 mini 등)을 대상으로 물리 세계에 대한 '지혜'를 갖추었는지 검증합니다. 관련 코드와 상세 정보는 GitHub 및 Huggingface에서 제공됩니다.
본 자료는 Vision-Language Models (VLMs) 및 멀티모달 학습에 대한 포괄적인 연구 허브입니다. 주요 모델, 핵심 데이터셋(VQA, 객체 탐지 등), 벤치마크, 최신 연구 방향, 윤리적 과제까지 체계적으로 정리하여 제공합니다. 최근의 발전 동향과 다양한 응용 분야를 한눈에 파악할 수 있는 자료입니다.
DocArray는 멀티모달 데이터를 표현, 전송, 저장 및 검색하기 위해 전문적으로 설계된 Python 라이브러리입니다. 이 구조체는 멀티모달 AI 애플리케이션 개발에 최적화되어 있으며, 광범위한 ML 생태계와의 통합을 지원합니다.
이 저장소는 GenAI 프로젝트 시작에 필요한 예제, 애플리케이션, 스타터 코드를 제공합니다. 설정이 필요 없는 오픈 소스 서버리스 vectorDB인 LanceDB를 활용하며, Python 데이터 생태계와 통합되어 사용하기 쉽습니다. RAG, 챗봇, 에이전트 등 다양한 AI 애플리케이션 구축 방법을 단계별로 안내합니다.
fusilli는 머신러닝에서 다양한 데이터 유형(모달리티)을 효율적으로 결합할 수 있도록 설계된 멀티모달 데이터 융합 라이브러리입니다. PyTorch Lightning과 PyTorch Geometric 기반으로, 표-표, 표-이미지 등 여러 시나리오의 데이터 융합 플랫폼을 제공합니다. 회귀 및 다양한 분류 작업을 지원하며, 연구자들이 쉽게 비교할 수 있는 환경을 목표로 합니다.
BentoML은 AI 앱 및 모델 추론을 위한 통합 온라인 서빙 시스템 구축 라이브러리입니다. 이 프레임워크는 모든 ML 모델에 쉽게 API를 만들고, 의존성 관리가 용이한 Docker 컨테이너 생성을 자동화합니다. 또한 동적 배치 등 최적화 기능을 제공하여 고성능 프로덕션 배포가 가능하게 합니다.
Lhotse는 음성, 오디오, 비디오, 이미지, 텍스트 등 다양한 멀티모달 데이터를 준비하고 처리할 수 있도록 설계된 Python 라이브러리입니다. k2와 함께 차세대 Kaldi 음성 처리 라이브러리의 일부로 개발되었으며, 사용자 친화적인 방식으로 데이터 파이프라인 구축을 지원합니다.
Benedek Rozemberczki가 네트워크 과학, 딥러닝 및 머신러닝 연구를 위해 시공간 데이터셋을 공개했습니다. 이 중에는 헝가리 주(county)별 수두 사례와 런던 지역의 자전거 배달 수요 등 두 가지 주요 예시가 포함되어 있습니다. 해당 데이터셋은 시계열 분석과 그래프 신경망(GNN) 기반 연구에 활용될 수 있습니다.
aarambh-studio는 Rust와 Candle를 기반으로 구축된 디코더 전용 언어 모델 구현체입니다. 이 프로젝트는 토큰화, 학습, 추론, 양자화, 어댑터 튜닝 등 LLM의 전체 엔지니어링 과정을 다루며, v4.0.0 버전에서는 Multi-Head Latent Attention(MLA)와 같은 고급 기능을 추가했습니다.
본 연구는 IoT 기반 스마트 헬스케어 환경의 데이터 개인정보 보호 및 확장성 문제를 해결하기 위해 PFL-HCare라는 개인화 연합 학습 프레임워크를 제안합니다. 이 프레임워크는 네 가지 통합 구성 요소를 통해 높은 정확도를 유지하면서도 차분 프라이버시와 대역폭 절감을 동시에 달성했습니다.
KD-Lib은 지식 증류(Knowledge Distillation), 가지치기(Pruning), 양자화(Quantization) 기능을 제공하는 PyTorch 모델 압축 라이브러리입니다. 이 라이브러리는 사용하기 쉬운 인터페이스를 통해 대규모 모델을 효율적으로 최적화할 수 있도록 돕습니다. 다양한 학술 논문의 구현 예시와 함께, 실제 개발 환경에서 모델 경량화 작업을 수행하는 데 유용합니다.
본 글은 ICML2022에서 발표된 SQ-VAE(Self-annealed Stochastic Quantization Variational Autoencoder)를 소개합니다. 기존 VQ-VAE의 코드북 붕괴 문제를 해결하기 위해, 양자화 과정을 확률적이지만 점차 결정론적으로 수렴하는 '자체 온도 조절' 방식을 도입했습니다. 실험 결과, SQ-VAE는 일반적인 휴리스틱 없이도 코드북 활용도를 높이며 다양한 작업에서 우수한 성능을 보였습니다.