웹 스크래핑이 대폭 업그레이드되었습니다.
요약
PixelRAG는 웹페이지를 일반 텍스트로 파싱하는 대신, 스크린샷을 기반으로 비전 모델이 직접 답변을 검색할 수 있게 하는 오픈 소스 솔루션입니다. 이는 HTML 파서가 손실시키는 표, 차트 등의 정보를 보존하며 RAG 정확도를 높였습니다. 특히 Claude에게 시각적 브라우징 기능을 제공하여 웹페이지, PDF 등 렌더링된 페이지를 기반으로 답변하는 것이 가능해졌습니다.
핵심 포인트
- HTML 파싱의 한계를 극복하고 사용자가 보는 그대로 인덱싱합니다.
- 스크린샷을 이용한 시각적 인덱스는 RAG 정확도를 높입니다.
- Claude에게 웹페이지, PDF 등 렌더링된 콘텐츠 기반 답변 기능을 제공합니다.
- 픽셀 기반 인덱스이므로 비전 모델 업그레이드 시 재구축이 필요 없습니다.
PixelRAG는 HTML을 읽지 않습니다. 사용자가 페이지를 보는 방식 그대로 읽습니다.
100% 오픈 소스입니다.
기존처럼 웹사이트를 일반 텍스트로 파싱하는 대신, 스크린샷을 캡처하고 비전 모델(vision model)이 픽셀에서 직접 답변을 검색할 수 있게 합니다.
이것이 왜 중요한가:
• HTML 파서(parser)는 정보를 조용히 손실시킵니다.
• 표, 차트, 공식, 레이아웃 등이 종종 사라집니다.
• 심지어 파서를 변경하는 것만으로도 RAG 정확도가 약 10% 변동할 수 있습니다.
PixelRAG는 이 전체 병목 현상을 건너뜁니다.
사용자가 실제로 보는 것을 인덱싱합니다.
팀은 3천만 개 이상의 위키피디아 스크린샷으로 시각적 인덱스(visual index)를 구축했으며, 이는 텍스트 전용 QA에서 가장 강력한 텍스트 기반 RAG 기준선보다 18.1% 더 나은 성능을 보였습니다.
더 놀라운 점은:
Claude Code 플러그인을 포함하여 Claude에게 시각적 브라우징 기능을 제공한다는 것입니다.
DOM을 스크래핑하는 대신, Claude는 모든 웹페이지, PDF, arXiv 논문 또는 로컬 앱의 스크린샷을 찍고 렌더링된 페이지를 기반으로 답변할 수 있습니다.
파이프라인은 놀라울 정도로 깔끔합니다:
→ 페이지를 이미지 타일로 렌더링(Render pages into image tiles)
→ Qwen3-VL-Embedding (스크린샷에 대해 LoRA-튜닝됨)으로 임베딩
→ FAISS 인덱스에 저장
→ 시각적으로 검색(Search visually)
가장 좋은 점은 무엇일까요?
나중에 더 나은 비전 모델로 업그레이드해도 인덱스를 다시 구축할 필요가 없다는 것입니다.
왜냐하면 이 인덱스는 파싱된 텍스트가 아닌 픽셀을 저장하기 때문입니다.
Apache 2.0 하에 완전히 오픈 소스입니다.
GitHub: https://t.co/xiWPrOvadP
AI 자동 생성 콘텐츠
본 콘텐츠는 X @nainsidwiv50980 (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기