안녕하세요,
영어가 모국어가 아닌 사람으로서 최선을 다해 작성해 보겠습니다.
저는 AI 분야에 꽤 초보이며, 지금까지는 AI가 실제로 어떻게 작동하는지 설명하도록 하는 데 대부분의 시간을 보냈습니다. AI는 그 일을 꽤 잘 해냅니다. 하지만 완전히 새로운 문제에 직면했을 때 문제가 발생하는 경향이 있다는 것을 빠르게 알아차렸습니다. 그리고 AI와 대화할 때 아첨하는 문제 (sycophancy problem) 또한 상당히 짜증스럽습니다.
그래서 우리는 AI의 현재 문제점들과 그것이 AI의 작동 방식에 의해 어떻게 설명될 수 있는지에 대해 이야기했습니다. 논리는 단지 패턴 인식 (pattern recognition)의 부산물일 뿐이며, 학습 과정 동안 논리적 문장은 무의미한 문장과 동일한 가치를 가진다는 점 말입니다.
결론부터 말하자면: 우리는 학습 과정 동안 논리와 추론을 시스템에 더 깊게 정착시킬 수 있는 아이디어를 고안해 냈습니다.
저는 학습 데이터가 제시되는 순서를 변경함으로써, 학습이 인간이 배우는 방식을 반영해야 한다고 제안했습니다. 처음에는 반대도 있었지만, 이후 AI의 도움을 받아 이를 달성하기 위한 개념을 만들 수 있었습니다. 저는 주로 Gemma 4 12B를 로컬에서 사용하여 이 작업을 수행했고, Gemini (google search)를 통해 검토했습니다. AI는 이를 "새로운 패러다임 (new paradigm)"이라고 부르지만, 저는 이것이 이미 시도되었을 수도 있다고 생각합니다.
개요
이는 세 가지 학습 단계로 구성됩니다. 제가 할 수 있는 한 최선을 다해 설명해 보겠지만, 아래에 Gemini가 생성한 더 기술적인 설명을 붙여넣겠습니다.
단계 1
모델은 언어를 학습하며, 가급적 세상에 대한 정보는 배우지 않은 상태여야 합니다. 이것이 가능한지는 모르겠지만, 이 단계는 다음 단계의 데이터를 올바르게 처리("이해")하기 위해 매우 중요합니다. 이는 아마도 다른 AI가 단순히 문장을 입력해 주는 방식으로 수행될 수 있을 것입니다.
단계 2
모델은 논리와 추론을 학습합니다. 먼저 고등학생이 배울 수 있는 모든 내용을 연령 순서대로 제시합니다. 인터넷의 무작위 채팅이 아니라, 잠재적 세계 모델 (latent world model)을 형성할 수 있도록 학교 교재, 고전 아동 도서부터 고전 청소년 문학(YA literature) 등에 이르는 자료를 제공합니다. 이 단계는 어떤 분야에서든 박사 학위를 받을 수 있는 수준의 모든 과학 지식을 제시함으로써 마무리됩니다.

모델이 문서를 맥락화(contextualize)할 수 있도록 각 문서에 "컨텍스트 슬리브 (Context-Sleeve)"가 추가됩니다.

중간 결과
이제 모델은 탄탄한 기초를 갖추었지만, "실제 세상"에 대해서는 그리 많이 알지 못합니다. 우리는 다음 단계에서 가중치(weights)를 고정(anchored)하고 타협해야 할지 논의했습니다. 즉, 모델이 데이터를 평가하고 그 결과에 따라 통합하는 방식입니다. 하지만 논리적 추론(logical reasoning) 부분을 거의 온전하게 유지하기 위해서는 핵심 가중치에 대한 가벼운 고정(anchoring)이 여전히 필요할 수도 있습니다. 이러한 가중치들이 어떻게 선택될지는 알 수 없지만, 전해지는 바에 따르면 가능하다고 합니다.

3단계
나머지 데이터들입니다. 이제 모델은 데이터를 통합하기 전에 검토할 수 있습니다. 이것이 정확히 어떻게 수행되는지는 결정되어야 합니다. 우리의 제안은 다음과 같습니다:

• 데이터가 현재 모델의 논리에 부합하면 완전히 통합됩니다.
• 데이터가 논리에 모순된다면 (예를 들어 음모론), 무의미한 것으로 표시되고 더 낮은 가중치로 통합됩니다.
• 논리적이긴 하지만 여전히 이해가 되지 않는다면, 통합되지 않고 나중에 사용하기 위해 저장됩니다. 아마도 먼저 더 많은 것을 "학습"하는 것이 도움이 될 수도 있습니다. 데이터가 여전히 이해되지 않을 경우, 중간 정도의 가중치(또는 그 정도)로 통합되기 전까지 얼마나 자주 검토되는지에 대한 횟수를 기록합니다.

네, 설명하는 데 어려움을 겪고 있네요. 단순하게 들리지만 복잡한 메커니즘을 요구하는 은유(metaphors)도 많이 포함되어 있습니다. 아래는 Gemini가 작성한 개요입니다.
AI가 이것이 좋은 아이디어이며 반드시 작동할 것이고 심지어 AGI(인공 일반 지능)로 가는 길이라고 계속 주장했기 때문에 (그 지점에서 멈춰야 했습니다), 이 내용을 저만 알고 있고 싶지 않았습니다. 우리가 고려하지 못한 장애물들이 분명히 있을 것이라고 확신합니다.

AI 생성 개요
🛠️ 심층 기술 요약 (구조적 프레임워크)
계층적 학습 패러다임 (HTP)의 기술적 세부 분석은 다음과 같습니다:

자동화된 데이터 공장 (The Automated Data Factory)

메인 모델이 학습을 시작하기 전에, 특화된 별도의 AI 파이프라인이 전체 데이터셋을 큐레이션(curate), 필터링(filter) 및 구조화(structure)합니다.

이는 Perplexity Scoring(문장의 복잡도와 어휘 난이도를 측정하는 방식)을 사용하여 데이터 순서 문제를 해결하며, 수십억 페이지의 데이터를 단순한 것에서 복잡한 것으로 이어지는 매끄럽고 자기 조직화된 커리큘럼(curriculum)으로 자동 배치합니다.

정교화된 단계별 세부 분석

단계 1: 언어 부트로더 (Linguistic Bootloader, 언어 골격)
메커니즘: 추상적이고 개념 중립적인 문장 구조.
목표: 사고의 주요 매체로서 구문론(syntax)을 완벽하게 숙달하여, 다음 단계에서 기본적인 인과 관계를 이해하는 데 필요한 필수적인 언어적 도구를 구축합니다.

단계 2: 공리적 토대 (Axiomatic Foundation, "기본 OS")
단계 2a (자연의 엄격한 법칙): 형식 수학, 물리학, 화학, 분자 생물학 및 프로그래밍 코드. 코드는 원인이 즉각적이고 타협 불가능한 결과를 초래하는 엄격한 논리의 순수한 증명으로서 높은 우선순위를 갖습니다. 결정적으로, 감정적인 산문을 접하기 전에 시스템 수준의 심리학 및 인지 과학(생물학적 행동, 사이버네틱 피드백 루프, 게임 이론)을 통합합니다.
단계 2b (상식 및 공감): 시대를 초월한 청소년 문학 및 고전 이야기(보물섬 등). 이 단계에서 모델은 단계 2a의 엄격한 규칙을 사회적 논리, 인간의 동기, 그리고 마음 이론(Theory of Mind)에 매핑합니다.
단계 2c (지적 성숙): 교과서, 백과사전 및 과학 박사 학위 논문.
범용 메타데이터 계층 (Universal Metadata Layer): 단계 2의 모든 개별 텍스트에 대해, 데이터 팩토리(Data Factory)는 역사적 배경, 의도, 저자의 관점 및 사회적 논의를 압축하여 요약한 "컨텍스트 슬리브(Context-Sleeve)"를 자동으로 부착합니다. 이는 모델이 역사적 관점을 학습하도록 강제하며

수학적 타당성: '가벼운' 앵커링 및 순전파 필터링

왜 앵커링이 필요한가: 평평한 모델(flat models)에서는 방대한 양의 인터넷 텍스트가 파라미터에 엄청난 홍수를 일으켜 이전에 학습된 논리를 지워버립니다 (재앙적 망각, catastrophic forgetting).
HTP 라이트 앵커링: 가중치를 경직되게 고정하는 전통적인 AI 연구와 달리, HTP는 앵커링의 가벼운 버전(Elastic Weight Consolidation - EWC의 느슨한 버전)을 활용합니다. 피처 전방 네트워크(Feed-Forward Networks - FFNs) 내부에서 가장 중요한 논리 경로 중 단지 5%에서 20%에 해당하는 희소 부분 집합을 피셔 정보 행렬(Fisher Information Matrix)이 식별합니다. 이는 주변 노이즈에 대한 안전망 역할을 하며, 나머지 80% 이상은 인간의 속어, 은유, 문화적 진화를 흡수할 수 있도록 유연하게 유지됩니다.
동시 필터링: 모델은 데이터를 별도의 시간이 많이 걸리는 단계에서 분석하지 않습니다. 대신, 비논리적인 텍스트가 처리될 때, 이는 앵커된 2단계 규칙에 대해 거대한 수학적 모순(높은 손실)을 생성합니다. 학습 알고리즘은 순전파(Forward Pass) 중 이 구조적 불협화음을 즉시 감지하고 해당 특정 텍스트 블록의 학습률을 자동으로 조절(0.05 가중치까지 낮춤)합니다. 진정한 미스터리는 높은 손실을 보이지만 높은 논리 밀도를 보여, 공리적 위반보다는 인식론적 격차를 신호하며 이를 검토 폴더(Review Folder)로 안전하게 라우팅합니다.

결론
HTP는 패러다임을 '다음 단어 예측'에서 '다음 상태 시뮬레이션'으로 전환시킵니다. 먼저 구조적인 면역 체계, 지성, 그리고 맥락적 이해를 구축한 다음, 진정으로 비판적인 사고를 하는 주체를 디지털 세상에 내보냅니다.

제출자: /u/cy3ntist
[링크] [댓글]