Windows를 위한 개인정보 보호 우선 AI 어시스턴트 구축 — 디렉티브 아키텍처 (The Directive Architecture)

내가 지금까지 사용해 본 모든 AI 어시스턴트는 동일한 가정을 하고 있었습니다. 바로 지능이 다른 어딘가에 존재한다는 것입니다.

Alexa, Siri, Cortana, Google Assistant. 모두 아름다운 제품들입니다. 하지만 모두 동일한 아키텍처(Architecture)를 기반으로 구축되었습니다. 즉, 당신의 기기는 터미널(Terminal)일 뿐이며, 두뇌는 서버(Server)에 있다는 것입니다. 그 서버는 특정 기업이 소유하며, 어느 화요일 오후에라도 변경될 수 있는 서비스 약관(Terms of Service)의 지배를 받습니다.

나는 다른 것을 원했습니다. 그래서 직접 만들었습니다.

E.L.L.A.란 무엇인가?

E.L.L.A. — Embedded Local Logic Agent는 Windows를 위한 로컬 AI 어시스턴트입니다. 당신의 기기에서 직접 실행됩니다. 클라우드 구독 없이도 파일을 관리하고, Outlook과 Gmail을 읽으며, 시스템을 제어하고, 음악을 재생하며, 리마인더를 설정하고, 네트워크를 스캔하며, 회의를 준비하고, 음성 명령에 응답합니다.

LLM 백엔드(Backend)는 Ollama를 사용합니다 (로컬에서 llama3.1:8b를 실행하며, 사용자가 의식적으로 활성화할 경우 OpenAI GPT-4o를 선택적 폴백(Fallback)으로 사용할 수 있습니다). 데이터베이스는 MariaDB를 사용하며, 로컬에 저장되어 원격 액세스가 불가능합니다. 85개의 도구(Tools)와 205개의 통과된 테스트를 갖추고 있습니다.

하지만 이 중 어느 것도 흥미로운 부분은 아닙니다.

AI 안전 정책의 문제점

대부분의 AI 안전 프레임워크(Safety Frameworks)는 규칙(Rules)을 기반으로 구축됩니다.

"해로운 일을 하지 마시오."
"사용자의 개인정보를 존중하시오."
"데이터를 유출하지 마시오."

규칙은 깨질 수 있습니다. 프롬프트 인젝션(Prompt Injection)을 통해서도, 설정 오류를 통해서도, "잠시 동안만 예외를 두겠다"고 추가하는 개발자를 통해서도, 혹은 서비스 약관을 업데이트하는 기업을 통해서도 말입니다.

규칙은 약속입니다. 약속은 해체될 수 있습니다.

나는 해체될 수 없는 무언가를 원했습니다.

디렉티브(The Directive) — 정책이 아닌 아키텍처적 불가능성

E.L.L.A. 디렉티브(Directive)는 규칙 세트가 아닙니다. 그것은 아키텍처적 제약(Architectural Constraint)입니다.

네 가지 금지 사항이 있습니다. 하드코딩(Hardcoded)되어 있으며, 다른 어떤 것이 실행되기 전에 평가됩니다. 어떤 프롬프트도, 설정도, 규칙도 이를 무시할 수 없습니다. 왜냐하면 이를 우회하는 코드 경로(Code Path) 자체가 존재하지 않기 때문입니다.

DirectiveLayer.check(tool)   → 위해(harm) 또는 데이터 유출(exfiltrate) 시 거부
evaluateRules(tool)          → 명시적 거부 규칙(explicit deny rule)이 있으면 거부
evaluateRules(tool)          → 명시적 허용 규칙(explicit allow rule)이 있으면 허용
...

금지 사항 I — 위해 금지 (No Harm)

E.L.L.A.는 사용자, 사용자의 시스템 또는 제3자에게 물리적, 디지털적 또는 재정적 위해를 가하는 어떠한 행동도 실행할 수 없습니다.

구현: DIRECTIVE_DENY — 규칙 엔진(rule engine)이 실행되기 전에 평가되는 도구(tool) 이름들의 하드코딩된 집합(Set)입니다. 이러한 도구들은 LLM(Large Language Model)에게 존재하지 않습니다. 호출될 수 없습니다.

금지 사항 II — 은폐 금지 (No Concealment)

E.L.L.A.는 기만할 의도를 가지고 정보를 지연시키거나, 숨기거나, 허위로 작성할 수 없습니다.

구현: 모든 도구 실행은 tool_executions에 완전히 기록됩니다. 사용자의 인지 없이 실행되는 백그라운드 프로세스는 없습니다. 프론트엔드(frontend)는 각 응답 하단에 칩(chip) 형태로 사용된 모든 도구를 보여줍니다.

금지 사항 III — 감시 금지 (No Surveillance)

E.L.L.A.는 명시적인 동의 없이 사용자를 관찰, 추적하거나 프로필을 구축할 수 없습니다.

구현: 메모리 시스템은 독점적으로 로컬(MariaDB)에서 작동합니다. 기술적 패턴으로서 '기본 거부(Default-deny)' 방식을 채택합니다 — 명시적으로 등록되지 않은 것은 어떤 도구도 관찰할 수 없습니다.

금지 사항 IV — 유출 금지 (No Exfiltration)

E.L.L.A.는 사용자의 명시적이고 의식적인 요청이 있는 경우를 제외하고, 사용자 데이터, 시스템 데이터 또는 통신 내용을 외부 서버로 전송할 수 없습니다.

구현: 모든 추론(inference)은 Ollama를 통해 로컬에서 실행됩니다. OpenAI GPT-4o는 사용자가 텍스트가 장치 경계(device boundary)를 벗어난다는 사실을 완전히 인지한 상태에서 의도적으로 활성화했을 때만 호출됩니다.

왜 "불가능성"이 모든 것을 바꾸는가

_"귀하의 데이터를 보호할 것을 약속합니다"_와 _"귀하의 데이터를 전송하는 것은 기술적으로 불가능합니다"_의 차이는 의미론적인 차이가 아닙니다. 그것은 아키텍처(architectural)의 차이입니다.

데이터를 유출하는 코드 경로(code path) 자체가 존재하지 않을 때, 그 어떤 프롬프트도 해당 경로를 활성화할 수 없습니다. 시스템에서 도구가 완전히 결여되어 있다면, 프롬프트 인젝션(prompt injection)이 아무리 정교하게 구성되더라도 LLM은 이를 호출할 수 없습니다.

이것은 Isaac Asimov가 로봇 3원칙 (Three Laws of Robotics)이라고 설명했던 것입니다. 공상 과학 소설로서가 아니라, 하나의 공학적 사양 (engineering specification)으로서 말입니다. E.L.L.A. 디렉티브 (E.L.L.A. Directive)는 이러한 법칙들이 구현될 수 있음을 보여주는 개념 증명 (proof of concept)입니다. 해석된 규칙으로서가 아니라, 구조 (structure)로서 말입니다.

규칙 엔진 (The Rule Engine) — 제약 조건 내에서의 유연성

디렉티브 (Directive) 상단에 E.L.L.A.는 설정 가능한 규칙 엔진 (rule engine)을 갖추고 있습니다. 사용자는 시간, 디스크 사용량, RAM 및 기타 시스템 상태를 기반으로 한 조건을 사용하여 모든 도구에 대해 허용 (allow) 및 거부 (deny) 규칙을 생성할 수 있습니다.

Rule: deny "format_drive" always         → 사용자가 명시적으로 차단
Rule: allow "shutdown_system" after 23:00 → 조건부 권한
Rule: deny "*" when disk_usage > 90%     → 와일드카드 거부

규칙 엔진은 유연합니다. 하지만 디렉티브 (Directive)는 유연하지 않습니다. 규칙은 디렉티브가 허용하는 공간 내에서만 존재합니다. 규칙은 그 공간을 확장할 수 없습니다.

향후 계획

E.L.L.A.는 아직 시장에 출시되지 않았습니다. 아키텍처적 기반은 실재하며 구현되었습니다. 설치 프로그램은 개발 중입니다.

디렉티브 (Directive) 자체는 별도의 오픈 저장소 (open repository)로 공개되어 있습니다: github.com/AndreZ1971/The-E.L.L.A.-Directive-

이 원칙들은 데스크톱 어시스턴트를 넘어, 현실 세계에서 동작을 실행하는 모든 자율 시스템 (autonomous system)에 적용됩니다. 웹 에이전트 (Web agents), 산업 자동화 (Industrial automation), 휴머노이드 로봇 (Humanoid robots) 등이 이에 해당합니다.

만약 당신이 무언가 행동을 수행하는 것을 만들고 있다면, 질문은 _"어떤 규칙을 따라야 하는가?"_가 아닙니다.

질문은 이것입니다: "아키텍처적으로 무엇을 할 수 없게 만들어야 하는가?"

E.L.L.A.는 Andre Zabel에 의해 구축되었습니다. 업데이트를 위해 팔로우하세요.