Show HN: Sunk Cost – 로컬 LLM 장비가 자체 비용을 회수하는 데 걸리는 시간은?

요약

이 글은 로컬 환경에서 구동되는 LLM 장비의 투자 회수 기간(손익분기점)을 분석하는 방법을 제시합니다. 사용자의 기기 속도와 청구서 정보를 바탕으로 비용 효율성을 측정하며, 메모리 대역폭 등을 이용해 로컬 처리 속도를 추정할 수 있는 기술적 접근 방식을 다룹니다.

핵심 포인트

• 로컬 LLM 장비의 투자 회수 기간(Sunk Cost) 분석 방법을 제시합니다.
• 쿠키나 IP 주소 없이 기기 속도 및 청구서 정보를 측정합니다.
• 로컬 처리 속도는 메모리 대역폭과 토큰당 읽은 바이트를 이용해 추정 가능합니다.