환각 현상이 없는 커널 통합형 AI 구축하기

IONA OS는 Rust로 처음부터 작성된 운영체제입니다. 자체적인 커널, 자체적인 GUI, 자체적인 블록체인 프로토콜, 자체적인 프로그래밍 언어 (Flux), 그리고 — 최근부터는 — 자체적인 커널 통합형 AI를 갖추고 있습니다.

챗봇이 아닙니다. 클라우드 API 래퍼 (wrapper)도 아닙니다. Ring 0에서 실행되며, CPU 온도를 직접 읽고, 프로세스를 종료하며, 드라이버를 합성하고, 실시간으로 시스템을 최적화하는 AI입니다.

가장 어려운 부분은 작동하게 만드는 것이 아니었습니다. 가장 어려운 부분은 신뢰할 수 있게 만드는 것이었습니다. AI가 커널 내부에서 실행될 때, 환각 (hallucination)은 단순히 틀린 답변을 내놓는 것에 그치지 않습니다. 시스템을 충돌시키거나, 메모리를 손상시키거나, 노트북을 사용할 수 없게 만드는 잘못된 결정을 내릴 수도 있습니다.

우리가 IONA AI를 신뢰할 수 있고, 자기 수정이 가능하며, 인과 관계를 인식하도록 구축한 방법은 다음과 같습니다.

1. 발생 전 환각 탐지
   대부분의 AI 시스템은 텍스트를 생성하고 그것이 맞기를 바랍니다. IONA AI는 사실 관계를 교차 검증합니다.

AI가 "CPU 온도가 80°C를 초과했습니다"라고 말할 때, 시스템은 이를 그냥 받아들이지 않습니다. 와트(watts) 단위의 전력 소모량과의 상관관계를 검증합니다. 우리는 와트 앵커 (watts anchor)를 유지하며 일관성을 확인합니다. 만약 CPU 온도는 높지만 전력 소모량이 낮다면, 시스템은 무언가 잘못되었다는 것을 알게 됩니다. 시스템은 해당 이상 징후를 기록하고 응답을 무효화합니다.

이러한 교차 사실 일관성 (cross-fact consistency)은 AI가 잘못된 정보를 자신 있게 진술하는 것을 방지합니다.

1. 상관관계가 아닌 인과 체인 (Causal Chains)
   AI는 단순히 "CPU가 뜨겁습니다"라고 말하지 않습니다. 왜 그런지 말합니다.

우리는 모든 이벤트를 부모 포인터 (parent pointer)와 함께 기록하는 인과 체인 모듈을 구축했습니다. AI가 문제를 관찰하면, 체인을 역방향으로 탐색하여 서사를 구축합니다: 커널을 컴파일할 때 거버너 (governor)가 성능 (Performance) 모드로 설정되었기 때문에 온도가 상승했으며, 이로 인해 8개의 스레드가 생성되어 4분 동안 CPU의 95%를 소비했다는 식입니다.

이것은 단순한 로깅 그 이상입니다. 이것은 인과적 추론 (causal reasoning)입니다.

1. 사이클 탐지 — 논리 내 무한 루프 방지
   AI가 스스로에 대해 추론할 때, 순환 논리에 빠질 수 있습니다: A가 B를 유발했고, B가 C를 유발했으며, C가 다시 A를 유발하는 경우입니다.

우리는 인과 관계 체인 설명 (causal chain explain) 함수에 명시적인 순환 탐지 (cycle detection) 기능을 추가했습니다. 순환이 발견되면 AI는 다음과 같이 명확하게 보고합니다: "인과 순환 탐지됨: thermal_throttle → governor_change → cpu_load → thermal_throttle."

이를 통해 AI가 자기 참조적 추론 (self-referential reasoning)에 빠지는 것을 방지하고, 외부 동작을 제안함으로써 루프를 끊도록 강제합니다.

1. 감쇠가 있는 메모리 — 하지만 모든 사실이 동일하지는 않음
   우리는 신뢰도 점수 (confidence score)와 함께 지식 그래프 (knowledge graph)에 사실을 저장합니다. 0.85 이상의 높은 신뢰도를 가진 사실은 낮은 신뢰도의 사실보다 두 배 느리게 감쇠 (decay)합니다.

신뢰도가 0.98인 "CPU governor는 Performance 모드임"과 같은 사실은 더 느린 속도로 감쇠하는 반면, 신뢰도가 0.60인 "사용자는 다크 테마를 좋아함"은 더 빠르게 감쇠합니다.

이를 통해 시스템이 정말로 알고 있는 것을 잊지 않게 하면서도, 불확실한 정보는 서서히 사라지게 합니다.

1. 적응형 백오프 (Adaptive Backoff) — 시스템이 한계에 도달했을 때는 추론하지 말 것
   CPU 부하 (CPU load)가 80%를 초과하면, AI는 멀티 에이전트 토론 (multi-agent debate)이나 심층 사고 사슬 (deep chain-of-thought)과 같은 비용이 많이 드는 추론을 중단하고 경량 모드 (lightweight mode)로 전환합니다.

CPU 사용량이 높으면 추론 깊이 (reasoning depth)가 1로 줄어듭니다. 시스템이 유휴 (idle) 상태이면 추론 깊이는 다시 3으로 돌아갑니다.

이는 시스템이 이미 어려움을 겪고 있을 때 AI가 상황을 더 악화시키지 않도록 보장합니다.

1. 현실로부터 학습하는 에너지 최적화 도구 (Energy Optimizer)
   AI는 어떤 에너지 정책 (energy policies)이 실제로 전력을 절약하는지 추적하고, 실제 결과에 따라 정책의 순위를 재조정합니다.

정책 A는 12와트를 절약하여 1위로 선정되었습니다. 정책 B는 4와트를 절약하여 2위로 선정되었습니다. 정책 C는 1와트를 절약하여 3위로 선정되었습니다.

200번째 틱 (tick)에서, 시스템은 영향을 받은 애플리케이션당 절약된 와트 수를 기준으로 정책의 순위를 다시 매깁니다. 시스템은 자신의 행동으로부터 학습합니다.

1. 의회 (Parliament) → 장기 메모리 (Long-Term Memory)
   우리가 의회 (parliament)라고 부르는 거버넌스 시스템 (governance system)을 통과하는 모든 AI 결정은 에피소드 메모리 (episodic memory)에 영구 저장됩니다. AI는 무엇이 결정되었는지뿐만 아니라, 누가 투표했는지, 왜 그랬는지, 그리고 결과가 어떠했는지까지 기억합니다.

이를 통해 시스템은 과거의 심의 (deliberations)로부터 학습하고 미래의 결정을 개선할 수 있습니다.

1. 대화 주제 그 이상 (Topics Beyond Chat)
   대화 주제 탐지기(dialog topic detector)를 기존 5개에서 네트워크(network), 스토리지(storage), AI를 추가하여 8개로 확장했습니다. 이제 AI는 각 주제에 대해 별도의 대화 문맥(conversation contexts)을 유지하므로, 스토리지에 관한 논의를 보안(security)에 관한 논의와 혼동하지 않습니다.

2. 실제 지표를 활용한 목표 추적기 (Goal Tracker with Real Metrics)
   AI는 사용자가 정의한 목표를 추적할 수 있으며, 이제 실제 시스템 데이터를 사용하여 이를 평가합니다.

예를 들어, "전력을 35와트 미만으로 유지하라"는 목표는 실제 전력 소모량과 비교하여 평가됩니다. 현재 전력이 28와트라면, 진행 상황은 50%로 표시됩니다.

사용자 정의 목표는 더 이상 빈 공약이 아닙니다. 그것은 실제 대시보드(dashboards)입니다.

1. 사용자 모델 + 프로세스 인텔리전스 (User Model + Process Intelligence)
   AI는 이제 프로세스 목록(process lists)을 읽음으로써 사용자가 무엇을 하고 있는지 이해합니다. AI는 워크로드(workloads)를 컴파일(compilation), 편집(editing), 브라우징(browsing) 또는 유휴(idle) 상태로 분류하고 그에 따라 동작을 조정합니다.

시스템이 컴파일을 감지하면 거버너(governor)를 성능(Performance) 모드로 전환합니다. 유휴 상태를 감지하면 절전(Powersave) 모드로 전환합니다.

사용자의 상호작용은 필요하지 않습니다. 시스템이 그냥 알고 있기 때문입니다.

커널(kernel) 내부에서 실행되는 AI를 구축하는 것은 어렵습니다. 신뢰할 수 있는 AI—즉, 환각(hallucinate)을 일으키지 않고, 순환 논리(circular reasoning)에 빠지지 않으며, 시스템을 충돌(crash)시키지 않는 AI—를 구축하는 것은 훨씬 더 어렵습니다.

IONA AI는 여전히 진화하고 있습니다. 하지만 이러한 10가지 추가 사항을 통해, 이는 더 이상 단순한 챗봇이 아닙니다. 이는 운영체제(operating system) 자체 내에 거주하며 스스로를 교정하고, 인과 관계를 인식하며, 에너지를 최적화하는 에이전트(agent)입니다.

Rust 언어로 작성된 63,000줄의 모든 코드가 Ring 0에서 실행됩니다.

코드는 아직 완전히 공개되지 않았지만, GitHub에서 아키텍처(architecture)를 확인할 수 있습니다. IONA OS는 2026년 9월 15일에 출시됩니다. 웹사이트 주소는 iona.zone입니다.