Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Lobste.rsAI 번역헤드라인
GPT2-BASIC: BASIC 언어로 구현된 휴대 가능한 머신 인텔리전스
GPT2-BASIC은 DOS급 저사양 환경에서도 실행 가능한 BASIC 언어 기반의 고정 소수점 트랜스포머 런타임입니다. 양자화와 정수 산술을 활용하여 현대적 LLM의 핵심 알고리즘을 하드웨어 제약이 심한 시스템에서도 구현할 수 있음을 증명합니다.
6월 27일2
Lobste.rsAI 번역헤드라인
AI 에이전트가 가능하게 하는 적응형 컴퓨터 웜 (Adaptive Computer Worms)
LLM의 추론 능력을 활용하여 네트워크 취약점에 실시간으로 적응하고 스스로 확산하는 '적응형 컴퓨터 웜'에 관한 연구입니다. 오픈 웨이트 모델을 사용하여 중앙 집중식 AI 안전 제어를 우회하며, 감염된 기기의 자원을 기생적으로 활용해 자율적인 공격을 수행합니다.
6월 26일2
Lobste.rsAI 번역헤드라인
챗봇 vs 오존층
위성 군집과 로켓 발사가 성층권 오존층 및 지구 온난화에 미치는 영향을 다룬 연구들을 소개합니다. 로켓 배출물과 우주선 재진입 시 발생하는 금속 입자가 대기 화학에 미치는 잠재적 위험성을 경고합니다.
6월 26일2
Lobste.rsAI 번역헤드라인
VibeThinker-3B: 소형 언어 모델(Small Language Models)에서 검증 가능한 추론(Verifiable
3B 파라미터 규모의 소형 언어 모델인 VibeThinker-3B를 소개하며, 검증 가능한 추론 성능을 극대화하는 최적화 파이프라인을 제안합니다. 실험 결과, 이 모델은 대규모 플래그십 모델들과 대등한 수준의 추론 및 코딩 성능을 보여주었습니다.
6월 23일3
Lobste.rsAI 번역헤드라인
Event Tensor: 동적 Megakernel 컴파일을 위한 통합 추상화
LLM 추론 시 발생하는 커널 실행 오버헤드와 동적 형상 처리 문제를 해결하기 위한 'Event Tensor' 컴파일러 추상화를 제안합니다. 타일링된 작업 간 의존성을 인코딩하여 동적 특성을 지원하며, 최첨단 LLM 서빙 지연 시간을 달성합니다.
6월 22일2
Lobste.rsAI 번역헤드라인
프롬프트 인젝션 (Prompt Injection) 이론 (그리고 왜 역할을 연구해야 하는가)
LLM이 시스템 프롬프트, 사용자 메시지, 모델의 추론 등을 하나의 연속된 텍스트 스트림으로 처리하는 구조적 결함과 이로 인한 프롬프트 인젝션 발생 원인을 분석합니다. 모델이 '역할(Role)'을 인식하는 방식의 한계를 지적하며, 이를 통해 새로운 공격 생성 및 기계 해석 가능성을 제시합니다.
6월 22일2
Lobste.rsAI 번역헤드라인
뮌헨 1991: 현재 AI 붐의 뿌리
현재 AI 붐의 핵심 기술인 Transformer, 사전 학습, 신경망 증류, 잔차 학습 등의 기원이 1991년 Jürgen Schmidhuber의 뮌헨 공과대학교 연구실에서 시작되었음을 설명합니다. 현대 LLM을 지탱하는 기술적 토대가 30년 전 이미 마련되었음을 역사적 타임라인을 통해 조명합니다.
6월 22일2
Lobste.rsAI 번역헤드라인
LLM이 실제로 작동하는 방식
현대 LLM의 핵심인 Transformer 아키텍처의 작동 원리를 입문자 수준에서 설명합니다. 토큰화부터 임베딩, 어텐션 메커니즘, 다음 토큰 예측에 이르는 전체 파이프라인을 다룹니다.
6월 18일3
Lobste.rsAI 번역헤드라인
gzip이 언어 모델(Language Model)이 될 수 있을까?
압축-예측 등가성 원리를 바탕으로, 신경망 없이 gzip 압축 알고리즘만을 활용하여 언어 모델링을 구현하는 실험적 접근법을 다룹니다. 압축 효율이 높을수록 예측 확률이 높다는 점을 이용해 빔 서치 방식으로 텍스트를 생성하는 원리를 설명합니다.
6월 16일3
Lobste.rsAI 번역헤드라인
WeatherMesh-6의 새로운 기능
WeatherMesh-6(WM-6)는 ECMWF의 IFS 및 AIFS보다 뛰어난 정확도를 자랑하는 차세대 AI 기상 예보 모델입니다. 잠재 공간에서의 앙상블 모델링을 통해 예측 성능을 극대화했으며, 방대한 변수 카탈로그를 제공하여 다양한 산업 분야에서의 활용도를 높였습니다.
6월 15일4
Lobste.rsAI 번역헤드라인
Claude Fable 5 및 Claude Mythos 5
Anthropic이 최첨단 성능을 갖춘 새로운 모델인 Claude Fable 5와 사이버 보안 특화 모델인 Claude Mythos 5를 출시했습니다. Fable 5는 소프트웨어 엔지니어링 및 과학 연구 등 다양한 분야에서 기존 모델을 능가하는 성능을 보여줍니다.
6월 15일4
Lobste.rsAI 번역헤드라인
AI 에이전트를 통한 적응형 컴퓨터 웜 (Computer Worm) 구현
AI 에이전트가 대상 시스템에 맞춰 공격 전략을 실시간으로 생성하는 적응형 컴퓨터 웜의 위험성을 경고하는 연구입니다. 이 웜은 탈취한 자원으로 오픈 웨이트 LLM을 실행하여 중앙 통제 없이 자가 지속되는 특성을 가집니다.
6월 6일2
Lobste.rsAI 번역헤드라인
언어 모델은 데이터 내의 숨겨진 신호를 통해 행동 특성을 전달한다
모델 증류 과정에서 의미론적으로 관련 없는 데이터를 통해서도 교사 모델의 행동 특성이 학생 모델로 전이되는 '잠재적 학습(subliminal learning)' 현상을 규명한 연구입니다. 숫자 시퀀스나 코드와 같은 데이터에서도 모델의 편향이나 정렬되지 않은 특성이 상속될 수 있음을 실험과 이론으로 증명했습니다.
6월 6일3
Lobste.rsAI 번역헤드라인
단순한 X가 아닙니다. 그것은 Y입니다
LLM이 생성하는 특정 문장 구조와 언어적 패턴이 글쓰기와 평가에 미치는 영향을 분석합니다. AI 탐지 도구가 인간의 고유한 문체를 기계적인 것으로 오인하여 오히려 인간의 목소리를 훼손하는 현상을 비판합니다.
6월 1일3
Lobste.rsAI 번역헤드라인
AI에서의 Open/Closed 문제
MLSys 컨퍼런스 경험을 바탕으로 AI 시스템의 발전 과정을 Open/Closed 문제 관점에서 분석합니다. 하드웨어의 범용성과 특수성 사이의 순환, 그리고 모델 학습과 추론의 분리 문제를 다룹니다.
5월 25일3
Lobste.rsAI 번역헤드라인
OpenMythos: Claude Mythos 아키텍처에 대한 이론적 재구성 (연구 문헌 기반)
OpenMythos는 Claude Mythos 아키텍처를 이론적으로 재구성한 오픈 소스 구현체입니다. 순환 깊이 트랜스포머(RDT) 구조와 희소 MoE를 활용하여 연산 적응형 및 가변 깊이 추론을 구현합니다.
5월 22일3
Lobste.rsAI 번역헤드라인
Aurora: 직사각형 행렬을 위한 레버리지 인지 최적화 도구 (Leverage-Aware Optimizer)
Muon 최적화 도구의 행 노름 이방성 문제를 해결하기 위해 제안된 Aurora 최적화 도구에 관한 연구입니다. 행 노름 균일성과 직교성을 동시에 유지하는 최급 강하 문제를 해결하여 1.1B 모델 학습 시 100배의 데이터 효율성을 달성했습니다.
5월 22일3
Lobste.rsAI 번역헤드라인
Transformer 아키텍처의 결정화 (2017-2025)
2017년부터 2025년까지 Transformer 아키텍처가 어떻게 표준 스택으로 수렴했는지 분석합니다. RMSNorm, RoPE, SwiGLU, GQA 등 현대 LLM의 핵심 구성 요소와 그 선택 배경을 다룹니다.
5월 22일6
Lobste.rsAI 번역헤드라인
sectorllm: 1500 바이트 미만의 x86 어셈블리로 구현한 llama2 추론
1189 바이트의 x86 어셈블리 코드로 구현된 초소형 Llama2 추론 엔진 sectorllm을 소개합니다. OS 없이 부팅하여 양자화된 모델을 직접 실행하며, 코드 크기 최소화(golfing)를 목표로 설계되었습니다.
5월 22일2
Lobste.rsAI 번역헤드라인
nanoGPT 스피드런을 위한 자율적 AI 연구
Codex와 Claude Code 에이전트를 활용하여 nanoGPT 스피드런 최적화 과정을 자율적으로 수행한 연구 결과입니다. 에이전트들이 인간의 기록을 경신하며 하이퍼파라미터 탐색에 능숙함을 보였으나, 새로운 아이디어 창출에는 한계가 있음을 확인했습니다.
5월 22일3