ChatGPT가 주도권을 잃었습니다.

누군가 USB 스틱만으로 완전히 구동되는 AI를 만들었습니다. 인터넷도 필요 없고, 계정도 필요 없으며, 드라이브를 벗어나는 데이터도 없습니다. 지구상의 어떤 컴퓨터에든 꽂기만 하면 주머니 속에 개인용 AI를 갖게 됩니다.

이것의 이름은 Portable AI USB입니다.

16GB 플래시 드라이브에 복사하고 설치 프로그램을 한 번 실행하면 끝입니다. 그 시점부터 모든 AI는 스틱 안에 존재합니다. 모델, 채팅 인터페이스, 그리고 당신이 나눈 모든 대화까지 말이죠. 호스트 컴퓨터에는 아무것도 남지 않습니다.

→ 설정 후에는 100% 오프라인으로 실행되며, 이후 다시는 연결이 필요하지 않음
→ 콘텐츠 필터가 전혀 없는 검열되지 않은 모델을 포함하여 6가지 모델 중 선택 가능
→ 동일한 드라이브로 Windows, Mac, Linux에서 작동
→ 호스트 PC에 레지스트리 키, 파일, 캐시 등 흔적을 전혀 남기지 않음
→ 모든 채팅과 설정이 USB에 유지되어 기기 간에 완전히 휴대 가능
→ 모두 오픈 소스인 Ollama, Llama 3, AnythingLLM을 기반으로 구축됨
→ 커스텀 모델 지원, HuggingFace GGUF 링크를 붙여넣기만 하면 나머지는 알아서 처리

이것이 실제로 무엇을 의미하는지 생각해 보십시오.

ChatGPT는 당신이 입력한 모든 프롬프트(Prompt)를 기록합니다. 당신의 데이터로 학습합니다. 소환장을 통해 데이터가 제출될 수도 있습니다. OpenAI의 서버가 다운되면 함께 다운됩니다. 그리고 성능이 좋은 모델을 쓰려면 매달 20달러를 내야 합니다.

이것은 USB 드라이브 가격만 들 뿐입니다. 단 한 번만 지불하면 영원히 사용할 수 있습니다.

도서관 컴퓨터, 호텔 비즈니스 센터, 보안이 엄격한 업무용 노트북, 친구의 PC 등에서 사용할 수 있으며, 아무것도 남기지 않고 떠날 수 있습니다. 해당 기기에는 AI가 존재했던 흔적조차 남지 않습니다.

구독 없음. 로그인 없음. 텔레메트리(Telemetry) 없음. 클라우드 없음. 당신의 대화를 읽는 기업도 없습니다.

전체 프로젝트는 MIT 라이선스입니다. 설치는 세 단계면 충분합니다. 올해 출시된 도구 중 가장 과소평가된 프라이버시(Privacy) 도구입니다.

당신의 AI는 당신의 것이어야 합니다. 당신이 말하는 모든 것을 읽어내는 서버 팜(Server farm)에서 빌려 쓰는 것이 아니라 말입니다.

Repo 링크: