가중치(Weights), 4가지 모든 크기, Apache-2.0 (ViT-S / ViT-B / ViT-L / ViT-g): https://huggingface.co/collections/robbyant/lingbot-vision
코드(Code): https://github.com/robbyant/lingbot-vision
프로젝트 페이지(Project page): https://technology.robbyant.com/lingbot-vision

경계 기반 마스킹(boundary-driven masking)을 사용하는 자기지도 학습(Self-supervised) DINO 계열 백본(backbone)입니다. 교사(teacher) 모델이 객체의 경계가 어디인지 예측하면 해당 토큰들이 학생(student) 모델의 마스크(mask)에 강제로 포함되어, 모델이 평탄한 문맥(flat context)을 복사하는 방식으로 재구성(reconstruction) 문제를 해결할 수 없게 만듭니다. 레이블(labels), 텍스트 감독(text supervision), 외부 에지 검출기(external edge detector)는 사용되지 않았습니다.

스크린샷은 표 2(Table 2)입니다. 1.1B 플래그십 모델은 전체 비교에서 가장 우수한 NYUv2 RMSE를 기록했습니다 (DINOv3-7B의 0.309와 비교하여 0.296을 기록했으며, 그 사이의 2B 규모 V-JEPA 2.1은 0.307을 기록함). 0.3B ViT-L 수치(0.310, 사실상 7B의 0.309와 유사)는 표 5(Table 5)에서 가져온 것입니다. 보고서에 따른 크기는 다음과 같습니다: 1.1B ViT-g, 0.3B ViT-L, 86M ViT-B, 그리고 21M ViT-S입니다. ViT-L은 fp16 기준 약 0.6GB입니다. 저장소(repos)에는 특징 추출(feature extraction)을 위해 동결된 백본(frozen backbone)을 반환하는 작은 커스텀 로더(lbot_vision_infer)가 포함되어 있으며, 이 모델의 목적은 채팅(chat)이 아니라 밀집 특징(dense features, 깊이/세그멘테이션 프로브, 트래킹)을 제공하는 것입니다.

성능이 떨어지는 부분은 동일한 표에서 확인할 수 있습니다: ImageNet 분류(classification)에서는 플래그십 및 L 스케일에서 DINOv3에 뒤처집니다 (다만 B/S 학생 모델들은 선형 프로브(linear probe) 기준 해당 클래스에서 실제로 앞섭니다). 또한 KITTI 데이터셋은 더 큰 모델들에 유리합니다 (7B와 2B V-JEPA 모두 그곳에서 더 높은 성능을 보였습니다). 161M개의 이미지로 학습되었으며, 이는 DINOv3 학습 샘플의 1/3 미만입니다.

모든 수치는 자체 보고된 것입니다. 평가 프로토콜은 표준적인 DINOv3 동결 선형 프로브(frozen linear-probe) 레시피를 따르므로 독립적으로 확인하기 쉽습니다. Ling-1T 관련 논란이 있었던 점을 고려할 때, 누군가 프로브(probe)를 다시 실행하기 전까지는 수치 차이를 검증되지 않은 것으로 간주하겠습니다.
submitted by /u/Simple_Response8041