유튜브를 새로고침하다가 제가 가장 좋아하는 리뷰어가 78대의 스마트폰 배터리 테스트 영상을 올린 것을 발견했습니다:

작성자는 사람이 휴대폰을 사용하는 모습을 시뮬레이션하기 위해 로봇 팔을 사용하기 시작했지만, 에이전틱 AI (Agentic AI)를 사용하여 이를 더욱 강화하고 싶었다고 말했습니다. 클라우드 AI (Cloud AI)는 지연 시간 (Latency)이 너무 높기 때문에 로컬 LLM (Local LLM)이 이를 위한 완벽한 해결책이었습니다. 그는 단지 Qwen3.6 27B와 35B-A3B를 실행하기 위해 RTX PRO 6000과 H20을 구매했습니다. 스마트폰 배터리 테스트를 위한 엄청난 헌신입니다. 그는 또한 5G 배터리 사용량을 통제된 환경에서 테스트하기 위해 자신만의 맞춤형 5G 타워를 구축하기도 했지만, 이는 이 서브레딧과는 관련이 없습니다.

스크립트: 우리의 Battery Life 5.0 모델은 그러한 아이디어를 바탕으로 구축되었습니다. 우리는 시각-언어 모델 (Vision-Language Model)을 추가했습니다. 산업용 카메라의 이미지가 모델로 직접 전달됩니다. 모델은 화면에 무엇이 있는지, 버튼이 어디에 있는지, 어떤 동작이 가능한지, 그리고 다음에 무엇을 탭해야 하는지를 결정합니다. 모델은 모든 결정을 자율적으로 내립니다. 이는 우리의 배터리 테스트 로봇에게 영혼과 인격을 부여하는 것과 같습니다. 이제 휴대폰 사용 방식이 훨씬 더 현실적이고 인간과 유사해졌습니다.

그래서 우리는 작업에 착수했습니다. 해결해야 할 첫 번째 문제는 연산 능력 (Compute)이었습니다. 휴대폰을 조작하는 에이전트 (Agent)에 어떻게 전력을 공급할 수 있을까요? 배터리 테스트는 매우 엄격한 타이밍에 맞춰 진행됩니다. 로봇 팔은 대기 중인데, 만약 모델이 응답하는 데 단 1초라도 더 걸린다면 전체 테스트 시퀀스의 리듬이 깨지게 됩니다. 또한 네트워크 변동이 결과에 영향을 미치는 것도 방지해야 했습니다. 그래서 클라우드 기반 에이전트는 즉시 제외되었습니다.

결국 우리는 결단을 내리고 추론 (Inference)을 로컬에서 실행했습니다. 우리는 NVIDIA H20 컴퓨팅 카드와 RTX PRO 6000 Blackwell을 장착한 중앙 집중식 추론 서버를 구축하는 데 수십만 위안(RMB)을 투자했습니다. 이 서버는 두 개의 모델을 실행합니다. 하나는 MoE (Mixture-of-Experts) 모델인 Qwen3.6-35B-A3B입니다. 이 모델은 매우 빠르며 Weibo, Taobao, Xiaohongshu의 피드와 같이 스크롤이 많은 빠른 브라우징을 처리합니다. 다른 하나는 밀집형 (Dense) 모델인 Qwen3.6-27B입니다. 이 모델은 더 크고 정확하며, 특정 화면 위치 찾기, 특정 버튼 찾기, 팝업창 닫기 등 정밀한 동작을 처리합니다.

우리는 또한 두 모델이 함께 작동하도록 만들었습니다. 만약 A3B가 환각 (hallucination)을 일으키거나 화면상의 정보를 잘못 읽어 맥락을 놓치더라도, 단순히 그 상태로 멈춰 있지 않습니다. 즉시 27B 모델을 호출하여 제2의 의견 (second opinion)을 구합니다. 더 정확한 27B 모델은 한눈에 문제를 찾아낼 수 있습니다. 따라서 A3B가 실수하더라도 폴백 (fallback) 장치가 존재합니다. 우리의 테스트 결과, 이 휴대폰 조작 에이전트 (phone-operating agent)가 이미지를 수신하는 순간부터 로봇 팔의 경로를 계산하기까지 전체 과정은 2초 미만이 소요되었습니다. 이는 클라우드 모델 (cloud model)보다 훨씬 낮은 지연 시간 (latency)입니다. 모델을 로컬 (locally)에 배포한 것은 분명히 가치 있는 일이었습니다. edit: results: https://socpk.com/batlife submitted by /u/gappyvalley [link] [comments]