온디바이스 AI 기능을 갖춘 오픈 소스 안드로이드 키보드 Lokey를 제작했습니다

저는 단말기에서 단어 예측, 자동 수정(autocorrect), 받아쓰기(dictation), 번역을 실행하는 오픈 소스 안드로이드 키보드인 Lokey를 개발해 왔습니다. 엔터를 길게 누르면 받아쓰기를 하거나, 입력 중인 앱으로 텍스트를 바로 번역할 수 있습니다. Lokey는 텍스트 추론(text inference)을 위해 llama.cpp의 포크 버전을 사용하며, 지원되는 Snapdragon 폰의 Hexagon NPU 백엔드를 활용합니다. 또한 두 개의 CPU 스레드에서도 추론이 가능합니다. 제가 테스트한 일상적인 휴대폰 사용 환경에서 키보드는 반응성이 유지되었고, 어떤 설정으로 하든 특이한 배터리 소모는 느끼지 못했습니다.

제안(suggestions) 기능의 경우, Lokey는 모델의 토큰 로짓(token logits)을 확률로 변환하여 지금까지 입력한 내용과 일치하는 최대 세 개의 완전한 단어를 순위화합니다. 하나의 텍스트 모델이 제안, 자동 수정 및 번역을 처리하며, 별도의 음성 모델이 받아쓰기를 담당합니다.

텍스트 모델: LFM 2.5 350M (~230 MB) 또는 Qwen 3.5 0.8B (~533 MB)
음성 모델: Parakeet v3 0.6B 또는 Qwen3 ASR 0.6B

모델을 다운로드할 필요 없이 타이핑이 가능합니다. 일단 원하는 모델을 다운로드하면 오프라인에서도 추론이 작동합니다. 입력된 텍스트와 마이크 음성은 기기에 남아 있으며, Lokey는 계정이나 분석(analytics) SDK가 없습니다.

또한 키보드 자체에도 많은 시간을 투자했습니다. 실제 기계식 스위치 녹음을 키 소리로 사용하거나, 햅틱 피드백, 레이아웃, 색상을 사용자 정의할 수 있습니다. 스와이프 타이핑, 적응형 문자(adaptive letters), 자동 수정 기능은 선택적입니다.

현재 초기 베타 버전입니다. 저는 OnePlus 15와 POCO F3에서 테스트했습니다. 사용해 보신다면 어떤 휴대폰, 언어, 모델을 사용했는지, 그리고 제안 기능이 타이핑 속도를 따라잡는지 알려주시면 감사하겠습니다.

소스 코드 (MIT) · 서명된 APK (Android 9+, ARM64) · 83초 데모

영어는 저의 첫 언어가 아니기 때문에 이 게시물을 편집하는 데 AI를 사용했습니다. /u/Nicolodeva가 제출함 [링크] [댓글]