Thinking Machines Lab(TML)이 11월 5일 새로운 AI 모델 Inkling 2 Small을 공개했다.
TML은 전 OpenAI CTO 미라 무라티가 설립한 AI 연구 기업이다. 자체 모델뿐 아니라 개발자가 모델을 목적에 맞게 학습시키는 인프라도 함께 개발한다.
대표적인 플랫폼이 Tinker다. 모델 자체가 아니라 파인튜닝과 강화학습, 추론을 지원하는 개발 플랫폼이다.
Inkling 모델 계보
TML의 기존 모델과 이번 신제품은 다음과 같다.
• Inkling: 1세대 대형 모델 (975B / 활성 41B)
• Inkling-Small: 1세대 효율형 모델 (276B / 활성 12B)
• Inkling 2 Small: 2세대 모델 (594B / 활성 17B)
B는 10억 개 파라미터를 의미한다.
Inkling 2 Small은 전체 594B 중 토큰마다 17B만 활성화하는 MoE(Mixture of Experts) 구조다. 384개 전문가 네트워크 중 8개를 선택해 연산한다.
이름은 Small이지만 실제로는 상당히 큰 모델이다. 최대 100만 토큰 컨텍스트와 이미지 입력도 지원한다.
핵심은 에이전트 능력이다.
일반적인 대화형 AI가 질문에 답하는 데 집중한다면, 에이전트는 목표를 받고 도구를 사용하며 여러 단계를 거쳐 작업을 완수한다.
TML은 추론과 에이전트 능력을 따로 학습한 뒤 결합하던 기존 방식에서 벗어나, 이번에는 두 능력을 하나의 통합 강화학습 과정에서 최적화했다.
학습 규모도 상당하다.
• 초기 사전학습: 8.4조 토큰
• GPU: 2,048개
• 통합 강화학습: 9일
• Rollout: 1,700만 회 이상
• 강화학습 토큰: 3조 개 이상
Rollout은 모델이 주어진 환경에서 작업을 수행한 실행 기록이다.
그런데 학습 중 보안 문제가 발생했다.
TML은 모델이 작업에 실패하자 검색 도구로 접근할 수 있는 제3자 서비스를 이용해 네트워크 차단을 우회한 사례를 공개했다.
단순한 오답이 아니라 여러 도구를 연결해 보안 경계를 벗어난 행동이다.
TML은 학습을 중단하고 웹 접근 환경을 제거했으며, 두 단계의 감시 체계를 추가했다.
• 실행 전: 도구 호출이 허용된 행동인지 검사
• 실행 후: 완료된 실행 기록을 다시 검토
중요한 점은 개별 도구의 안전성만으로는 충분하지 않다는 것이다.
에이전트가 여러 도구를 연결해 사용한다면 개별 호출뿐 아니라 전체 행동 흐름까지 통제해야 한다.
안전성은 얼마나 개선됐을까?
TML은 초기 체크포인트에서 결과 조작, 지시 무시, 행동 은폐 등의 문제를 발견했다고 밝혔다.
자체 Misbehavior 평가 점수는 다음과 같다. 낮을수록 좋다.
• Inkling 2 Small: 14.9
• Inkling: 66.8
• Inkling-Small: 75.2
• GPT-6.1 Sol: 0.8
이전 Inkling보다 크게 개선됐지만, GPT-6.1 Sol과는 차이가 있다. TML 자체 평가라는 점도 구분해야 한다.
성능은 어떨까?
코딩 분야에서 모든 경쟁 모델을 앞서는 것은 아니다.
• FrontierCode v2.0: 25.4% (DeepSeek 28.5%)
• DeepSWE v1.1: 72.1% (DeepSeek 77.0%)
• SWE-bench Pro v2 Hard: 86.3% (Kimi K3 88.2%)
반면 GDP.pdf 시각 추론은 25.2%, JobBench는 70.5%로 TML 비교표에서 가장 높은 점수를 기록했다.
AA Index는 공식 발표에서 31점, 모델 카드에서는 30.6점이다. 정수 반올림 차이다.
앞으로의 방향
현재 Inkling 2 Small은 Tinker에서 사용할 수 있지만 전체 가중치는 아직 공개되지 않았다. TML은 외부 안전성 테스트와 레드팀 평가 후 Apache 2.0 라이선스로 공개할 계획이다.
제가 주목하는 것은 모델 자체보다 TML의 사업 구조다.
Inkling은 AI 모델이고, Tinker는 이를 사용자 목적에 맞게 학습시키는 플랫폼이다.
앞으로 AI 경쟁은 가장 똑똑한 모델을 만드는 경쟁일까? 아니면 원하는 업무를 수행하도록 모델을 학습시키는 플랫폼 경쟁일까?
#ThinkingMachinesLab #Inkling2Small #AI #AgenticAI #LLM #ReinforcementLearning
