웹 스크래핑(Web Scraping)의 중대한 업그레이드

웹 스크래핑(Web Scraping)이 중대한 업그레이드를 맞이했습니다.

PixelRAG는 HTML을 읽지 않습니다. 당신이 보는 것과 똑같이 페이지를 읽습니다.

100% 오픈 소스 (open-source).

웹사이트를 일반 텍스트로 파싱(parsing)하는 대신, 스크린샷을 캡처하여 비전 모델 (vision model)이 픽셀(pixels)로부터 직접 답변을 검색할 수 있게 합니다.

이것이 중요한 이유:

• HTML 파서 (parsers)들은 정보를 조용히 놓칩니다.
• 표, 차트, 공식, 그리고 레이아웃이 종종 사라집니다.
• 파서를 바꾸는 것만으로도 RAG 정확도가 약 10%까지 변동될 수 있습니다.

PixelRAG는 그 병목 현상(bottleneck) 전체를 건너뜁니다.

사용자가 실제로 보는 것을 인덱싱(indexing)합니다.

팀은 3,000만 개 이상의 Wikipedia 스크린샷으로 구성된 시각적 인덱스 (visual index)를 구축했으며, 이는 텍스트 전용 QA에서 가장 강력한 텍스트 기반 RAG 베이스라인 (baseline)보다 18.1% 더 높은 성능을 보였습니다.

더 멋진 점:

Claude에게 시각적 브라우징 (visual browsing) 기능을 부여하는 Claude Code 플러그인을 포함하고 있습니다.

DOM을 스크래핑하는 대신, Claude는 모든 웹페이지, PDF, arXiv 논문, 또는 심지어 로컬 앱의 스크린샷을 찍어 렌더링된 페이지를 기반으로 답변할 수 있습니다.

파이프라인 (pipeline)은 놀라울 정도로 깔끔합니다:

→ 페이지를 이미지 타일 (image tiles)로 렌더링
→ Qwen3-VL-Embedding (스크린샷으로 LoRA 튜닝됨)으로 임베딩 (Embed)
→ FAISS 인덱스에 저장
→ 시각적으로 검색

가장 좋은 점은 무엇일까요?

나중에 더 나은 비전 모델 (vision model)로 업그레이드하더라도 인덱스를 다시 구축할 필요가 없다는 것입니다.

인덱스가 파싱된 텍스트가 아닌 픽셀을 저장하기 때문입니다.

Apache 2.0 라이선스 하에 완전한 오픈 소스 (open-source)로 제공됩니다.

Insights