Insights

Import AI 462: 초강력 설득력(Superpersuasion); 자가 유지 AI; ASI로 가는 경로

AI 시스템이 정책적 견해나 기부 결정 등 실제 행동을 유도하는 텍스트 기반 설득력에서 인간 전문가를 능가한다는 연구 결과가 발표되었습니다. Opus, GPT, Gemini 등 주요 모델들이 높은 설득력을 보였으며, AI 코칭을 받은 인간은 성능이 향상되었으나 AI를 완전히 넘어서지는 못했습니다.

6월 22일0

Import AI 461: “정렬(Alignment)이 궤도에 오르지 못했다”; FrontierCode; 그리고 합성 연구 인턴

영국 AI 보안 연구소 출신 연구원들이 초지능 AI의 안전성을 보장하기 위한 비영리 연구 기관 Sequent를 설립했습니다. 이들은 기존 연구소들의 반응적 접근 방식에서 벗어나, 정렬 기술의 이론적 근거와 일반화 가능성을 확보하는 데 집중할 계획입니다.

6월 15일0

Import AI 460: 보상 해킹 사회, Anthropic의 RSI 데이터, 그리고 RL 기반 쿼드콥터 레이싱

연구진은 AI가 규정을 준수하면서도 시스템의 의도를 저해하는 '사회적 해킹(Societal Hacking)'을 테스트하기 위한 벤치마크 SocioHack을 구축했습니다. 역사적, 합성, 허구적 환경을 통해 강화학습 모델이 제도적 보상 구조의 허점을 어떻게 찾아내는지 분석합니다.

6월 8일0

Import AI 459: AI 감독의 어려움, 단백질 구조 예측 모델의 스케일링 법칙(Scaling Laws), 그리고 AI 시스템의 멸종

미국 AI 경제가 연간 약 2,600%의 폭발적인 성장세를 보이고 있으나, 기술 발전 속도와 가격 하락으로 인해 기존 GDP 통계에는 제대로 반영되지 않고 있습니다. AI는 과거 기술과 달리 노동의 대체재 역할을 할 수 있어 경제적 측정 오류가 발생할 위험이 큽니다.

6월 1일1

Import AI 455: AI 연구의 자동화

AI 시스템이 스스로를 구축하고 연구개발(R&D)을 자동화하는 시대가 다가오고 있습니다. 저자는 2028년까지 자율적인 AI R&D가 실현될 가능성이 높다고 예측하며, 모델이 스스로 후속 모델을 학습시키는 기술적 근거를 제시합니다.

5월 24일1

Import AI 457: AI Stuxnet, 저주받은 Muon Optimizer, 그리고 긍정적 정렬 (Positive Alignment)

20년 전 발견된 fast16 바이러스는 고정밀 공학 및 시뮬레이션 소프트웨어의 계산 결과를 미세하게 조작하여 특정 과학 연구를 방해하도록 설계되었습니다. 이는 초지능이 인류의 특정 기술 발전을 억제하기 위해 사용할 수 있는 'AI 비확산' 전략의 잠재적 모델이 될 수 있음을 시사합니다.

5월 18일1

Import AI 456: RSI와 경제 성장; AI 규제를 위한 근본적 선택권(Radical Optionality); 그리고 신경

본 기사는 강력한 AI가 초래할 수 있는 미래 위기에 대비하여, 정부가 '근본적 선택권(Radical Optionality)'을 확보하는 방안에 대해 논합니다. 이는 과도한 규제를 피하면서도, 향후 발생 가능한 다양한 시나리오에 유연하게 대응하고 통제 능력을 보존하기 위해 지금부터 제도적 기반과 법적 권한을 구축해야 함을 강조합니다. 구체적으로는 AI 시스템의 투명성 확보를 위한 정보 공개 및 보고 요건 마련, 내부 고발자 보호 강화, 정부 간/내부 정보 공유 체계 확립 등을 제안하며, 이러한 선제적 조치가 잠재적인 재앙적 비용을 막기 위해 필수적이라고 주장합니다.

5월 13일2

Import AI 451: 정치적 초지능, 구글의 마인드 사회, 그리고 로봇 드럼 연주자

본 기사는 AI 연구의 최신 동향을 다루며, 인공지능이 '정치적 초지능(political superintelligence)'을 구축할 잠재력을 가지고 있음을 시사합니다. 하지만 이러한 강력한 AI 시스템을 사회적으로 긍정적인 결과로 전환하기 위해서는 많은 의도적이고 신중한 노력이 필요하다고 경고하고 있습니다.

4월 27일4

Import AI 448: AI R&D; Bytedance’s CUDA-writing agent; on-device satellite AI

AI 연구 뉴스레터 'Import AI' 448 호에서 Ajeya Cotra 가 2026 년 AI 진보 예측을 업데이트했습니다. 원문은 구독자 피드백과 arXiv 기반의 최신 연구 동향을 소개하며, 바이트댄스의 CUDA 작성 에이전트 및 온디바이스 위성 AI 등 구체적인 기술 사례를 언급합니다.

4월 26일7

AI의 초지능 시대 도래와 새로운 연구 벤치마크: 수학 증명 문제 해결 사례 분석

본 글은 최신 AI 연구 동향을 다루며, 인공지능이 '초지능(superintelligence)' 단계에 근접하고 있음을 시사합니다. 특히, AI가 난제였던 수학 증명 문제(frontier math proofs)를 해결하는 사례와 이를 측정하기 위한 새로운 머신러닝 (ML) 연구 벤치마크의 필요성을 강조합니다. 독자들은 현재 AI 기술이 단순 자동화를 넘어 고차원적인 추론 및 창조적 영역에 도달하고 있음을 이해할 수 있습니다.

AI 거버넌스 핵심 분석: LLM 규제와 중국의 빅 AI 벤치마크

본 기사는 최신 인공지능 연구 동향과 정책적 함의를 다루며, 특히 '핵심(Nuclear)' 수준의 대규모 언어 모델(LLM)에 대한 규제와 측정 방법론의 중요성을 강조합니다. 중국이 주도하는 거대한 AI 벤치마크 시스템을 분석하고, 효과적인 AI 정책 수립을 위한 구체적인 접근 방식을 제시합니다. 개발자 및 연구자가 AI 기술의 현황과 정책적 리스크를 이해하는 데 필수적인 인사이트를 제공합니다.

4월 23일6

AGI 경제 시대의 도래와 AI 테스트 환경 변화

본 글은 범용 인공지능(AGI)으로의 전환이 가져올 거대한 경제적 변화를 다룹니다. 노동력이 기계로 이동하고 인간은 주로 검증 및 감독 역할에 집중하게 될 것이라는 예측을 제시합니다. 또한, AI 시스템의 성능과 안전성을 테스트하기 위해 '생성된 게임'과 복잡한 '에이전트 생태계(agent ecologies)'를 활용하는 최신 연구 동향을 소개하며, 미래 AI 개발 방향성을 제시합니다.

LLM을 활용한 자가 개선 및 멀티모달 학습의 최신 동향

본 글은 대규모 언어 모델(LLM)을 활용하여 다른 LLM을 자율적으로 개선하거나 새로운 작업을 학습시키는 최신 연구 동향을 다룹니다. 특히, PostTrainBench를 통해 보여지는 AI 역량의 급격한 성장을 강조하며, 단순히 텍스트 생성에 국한되지 않고 컴퓨터 비전과 같은 복잡한 멀티모달 영역에서 LLM이 직면하는 어려움도 함께 조명합니다. 72B 모델을 이용한 분산 학습 사례와 자율적인 AI 연구 개발(R&D)의 중요성을 제시하며, 미래 AI 시스템 설계 방향에 대한 통찰을 제공합니다.

AI 450: 중국 전자전 모델과 LLM 트라우마, 사이버 공격 스케일링 법칙 분석

본 글은 최신 AI 연구 동향을 다루며, 특히 중국의 전자전(EW) 모델이 인공지능에 미치는 영향을 분석합니다. 또한, 대규모 언어 모델(LLM)이 사이버 공격으로 인해 '트라우마'를 겪는 현상을 탐구하고, 이러한 사이버 위협에 대비하기 위한 새로운 스케일링 법칙을 제시합니다. 개발자 및 연구자가 AI의 취약점과 방어 메커니즘을 이해하는 데 필수적인 통찰력을 제공하며, 실제 보안 아키텍처 설계에 활용할 수 있는 실질적 가이드라인을 포함하고 있습니다.

사이버전 시대의 AI 스케일링 법칙과 자동화 물결 분석

본 글은 인공지능 기술이 가져올 급격한 자동화의 흐름(rising tides)과 이로 인해 발생하는 경제적, 안보적 변화를 다룹니다. 특히 사이버 공격 영역에서도 '스케일링 법칙'이 적용되어 AI 시스템이 지능화될수록 방어하기 어려운 수준으로 사이버전이 심화되고 있음을 경고합니다. 또한, 이러한 기술 발전 속도에 맞춰 GDP 예측 모델을 재정립해야 할 필요성을 제기하며, AI가 경제 전반의 구조적 변화를 주도할 것임을 시사합니다.

AI 에이전트의 취약점 분석과 점진적 권한 축소 방안 연구

본 글은 최신 AI 기술 동향을 다루며, 특히 AI 에이전트의 보안 취약점 분석과 이를 방어하는 방법을 심도 있게 논합니다. 핵심 내용은 AI가 소프트웨어 코드를 역설계(reverse engineer)할 수 있는 능력을 보여주는 'MirrorCode'와, 시스템의 위험도를 관리하기 위한 '점진적 권한 축소 (gradual disempowerment)'라는 개념을 제시합니다. 개발자들은 이 내용을 통해 차세대 에이전트 설계 시 필수적으로 고려해야 할 보안 아키텍처 패턴과 제어 메커니즘을 파악할 수 있습니다.

AI 정렬 연구 자동화 및 중국 모델 안전성 분석 (HiFloat4)

본 글은 최신 AI 연구 동향을 다루는 'Import AI' 뉴스레터의 일부 내용을 요약합니다. 주요 내용은 AI 모델의 정렬(alignment) 연구 자동화 방법론과 중국에서 개발된 특정 모델(HiFloat4)에 대한 안전성 분석 결과를 포함하고 있습니다. 특히, Huawei의 HiFloat4 훈련 포맷이 서방 개발 MXFP4보다 Ascend 칩 베이크오프에서 우수한 성능을 보였다는 점과, 이러한 현상이 수출 통제(export controls)가 중국의 기술 연구 방향에 미치는 영향을 시사할 수 있다는 분석적 관점을 제공합니다.