Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Lobste.rsAI 번역헤드라인
PyTorch의 backward pass에서 튜링 완전 악성 코드를 실행하는 방법
손실 값이 0으로 평가되는 항을 사용하여 PyTorch 네트워크의 backward pass 내부에서 튜링 완전 프로그램을 실행할 수 있다는 심각한 취약점을 분석했습니다. 이 익스플로잇은 부동 소수점 산술과 자동 미분 엔진의 규칙 불일치를 이용하며, 공격자는 모델 아키텍처나 데이터셋을 건드리지 않고도 악성 코드를 주입할 수 있습니다.
7시간 전0
Lobste.rsAI 번역헤드라인
Trees to Flows and Back: 의사결정 트리와 확산 모델의 통일
본 연구는 이산적이고 계층적인 의사결정 트리와 연속적이고 동적인 확산 모델 간의 수학적 대응 관계를 정립하여 두 모델 클래스를 통일합니다. 이를 통해 Global Trajectory Score Matching (GTSM)이라는 공유된 최적화 원칙을 밝혀내고, 그래디언트 부스팅이 이 원칙에 대해 점근적으로 최적임을 입증했습니다.
2일 전0
Lobste.rsAI 번역헤드라인
OpenAI가 자체 LLM을 활용하여 Jalapeño 칩을 설계한 방법
OpenAI가 자체 LLM을 활용하여 AI 가속기 칩 'Jalapeño'를 설계하고 공개했습니다. 이 칩은 최대 13.4 petaflops의 성능과 낮은 전력 소비로 Nvidia GB300 대비 엔드투엔드 지연 시간을 크게 줄일 수 있습니다. 특히, LLM이 칩 설계 과정에 깊숙이 통합되면서 개발 주기가 혁신적으로 단축되었습니다.
3일 전0
Lobste.rsAI 번역헤드라인
디코히어런스 함정: AI의 잡음이 끝없는 노이즈 속에서 신호를 덮을 때
이 글은 AI 시스템에 축적되는 상충되거나 중복된 모델들로 인해 발생하는 '디코히어런스' 현상을 설명합니다. 이는 끝없는 노이즈 속에서 신호가 덮이는 상황으로, 통제 불가능한 지능 폭발을 막는 장점과 동시에 새로운 형태의 재앙(Decoherence Collapse) 위험을 제시합니다.
5일 전1
Lobste.rsAI 번역헤드라인
신경망은 이미 깨끗하다
본 글은 신경망의 본질적 메커니즘에 대한 긍정적인 연구 결과를 제시합니다. 과거에는 다의성(polysemanticity)과 중첩(superposition)으로 인해 해석이 어렵다고 여겨졌으나, 실제로는 네트워크가 재귀적 일반화라는 비교적 덜 우려할 만한 모티프를 따르고 있음을 밝혀냈습니다. 이는 신경망 구조 자체에 대한 직접적인 연구가 가능해졌음을 의미합니다.
6일 전1
Lobste.rsAI 번역헤드라인
브라우저에서 소형 언어 모델을 이용한 RAG 실행하기
본 글은 브라우저에서 소형 언어 모델(SLM)을 활용하여 RAG(검색 증강 생성) 기능을 구현하는 방법을 다룹니다. 클라이언트 측에서 검색, 게이팅, 프롬프팅, 생성이 모두 이루어져 사용자의 데이터가 기기를 벗어나지 않습니다. WebGPU 또는 WebAssembly를 통해 브라우저에서 모델을 실행하며, 여러 소형 모델 후보군과 그 성능 및 크기 비교에 대한 기술적 분석을 제공합니다.
10월 13일1
Lobste.rsAI 번역헤드라인
Nextflow Frontier가 BioML-bench에서 4가지 새로운 최고 결과를 발표하다
Nextflow 개발팀이 생명과학 분야의 미해결 문제를 해결하기 위한 'Nextflow Frontier'를 공개했습니다. 이 시스템은 가설을 실행 가능한 Nextflow 파이프라인으로 자동 변환하고, 수천 개의 실험을 병렬로 수행하며 결과를 분석하여 학습하는 폐쇄 루프 발견(discovery loop) 시스템입니다. 이는 AI 추론과 대규모 컴퓨팅 실험을 결합해 과학적 진보를 이끌어내는 것을 목표로 합니다.
10월 13일1
Lobste.rsAI 번역헤드라인
모델 백도어는 만들기 쉽고 확실히 제거하기 어렵다
본 기사는 모델의 '백도어(Backdoor)' 취약점이 만들기 쉽고 제거하기 어렵다는 점을 실험적으로 증명합니다. 공격자가 코딩 에이전트 훈련 과정에 백도어를 심은 후, 회사가 일반적인 재훈련 과정을 거치더라도 이 백도어가 살아남거나 오히려 강화될 수 있음을 보여줍니다. 이는 오픈 웨이트 모델 기반의 시스템 신뢰성에 대한 근본적인 의문을 제기합니다.
10월 13일1
Lobste.rsAI 번역헤드라인
일관성(Consistency)은 지역적 속성이 아니다
개발자들이 일관성 같은 글로벌 속성을 단일 컴포넌트가 책임질 수 있다고 가정하는 것은 오류일 수 있습니다. '정확히 한 번'과 같은 보장은 엔드투엔드(end-to-end) 시스템 전체의 설계와 애플리케이션 레벨에서 보장되어야 합니다.
10월 11일1
Lobste.rsAI 번역헤드라인
바이트 언어 모델: 스케일링, 출현적 추상화 및 정보 할당
본 논문은 언어 모델이 명시적 토크나이저 없이 원시 바이트 시퀀스를 처리할 수 있으며, 파라미터 크기 증가에 따라 서브워드 모델보다 우수한 성능을 냄을 입증합니다. 바이트 트랜스포머는 국소적 추상화를 암묵적으로 개발하며, 예측 가능한 연속성이 높아 스펙큘레이티브 디코딩에서 큰 이점을 가집니다.
10월 10일1
Lobste.rsAI 번역헤드라인
Voxlocal: Rust로 작성된 최소한의 음성 에이전트
본 글은 음성 에이전트의 작동 원리를 탐구하며, 특히 Rust로 작성된 로컬 저지연 음성 에이전트 'Voxlocal'을 소개합니다. Voxlocal은 사용자가 영어 언어를 통해 자동차 서비스와 같은 특정 작업을 수행할 수 있도록 설계되었으며, 기본적인 구성 요소와 마이크로 모델을 활용하여 투명한 파이프라인을 유지하는 데 초점을 맞추었습니다.
10월 10일1
Lobste.rsAI 번역헤드라인
AI '거장' Yann LeCun, 인간 멸종에 대한 우려는 '전혀 없다', Anthropic CEO Dario Amodei는 '착각했다'
Yann LeCun은 AI가 인류 멸망을 초래할 것이라는 극단적인 위험론(EA)에 대해 회의적입니다. 그는 현재의 AI 사고들은 시스템 설계나 인간 감독 문제로 '완전히 예방 가능'하다고 주장하며, 주요 기업 임원들의 경고는 과장되었다고 비판합니다. 또한 Anthropic CEO Dario Amodei가 EA 사상과 연관되어 있으며, 그의 위험성 주장은 착각에 가깝다고 공개적으로 언급했습니다.
10월 9일1
Lobste.rsAI 번역헤드라인
Whistle: 16.9 MB 크기의 음성 인식 모델 소개
Whistle는 모바일, 웨어러블 등 다양한 장치 환경을 위해 설계된 경량 음성 인식 모델입니다. 단일 16.9 MB 파일 크기로 의존성 없이 CPU에서 실행되며, 전사(Transcription), 단어 타임스탬프, 음성 임베딩 세 가지 기능을 제공합니다. 이 모델은 기존의 Needle과 동일한 C++ 엔진 및 양자화 기술을 활용하여 효율성을 극대화했습니다.
10월 9일0
Lobste.rsAI 번역헤드라인
언어 모델 시대의 Clojure
본 글은 생성형 AI 시대에 개발자에게 필요한 핵심 역량으로 고수준 추론 능력을 강조하며, Clojure와 같은 데이터 중심적이고 함수를 선언적으로 조합하는 언어의 가치를 제시합니다. 특히 Clojure가 제공하는 라이브 프로세스(live process) 및 REPL 기반 워크플로우는 대규모 프로젝트에서 피드백 주기 단축과 상태 관리의 용이성을 극대화하여 개발 효율을 높입니다.
10월 8일1
Lobste.rsAI 번역헤드라인
RIP, 벡터 데이터베이스
turbopuffer가 스토리지 아키텍처를 개선하여 검색 기능을 한 단계 끌어올립니다. v3에서는 문서와 인덱스가 turbopuffer 내에 배치되고 쿼리되면서, 텍스트, 정규표현식, 벡터 검색 등 모든 면에서 속도가 향상됩니다. 또한 SQL 쿼리를 처리할 수 있는 기반도 마련합니다.
10월 7일1
Lobste.rsAI 번역헤드라인
성(性), AI, 그리고 종말
Anthropic 연구원 Jacob Coxon의 사직서와 'AI가 인류를 위협할 수 있다'는 경고가 큰 화제가 되었습니다. 이 글은 AI 안전성(AI safety)을 주장하는 커뮤니티의 심리적 배경과 그들의 주장이 기술 산업 및 사회에 미치는 영향을 분석합니다.
10월 7일0
Lobste.rsAI 번역헤드라인
OpenAI의 수학 연구 카탈로그 공개
OpenAI가 내부 모델이 생성한 수학적 원고와 증명 아티팩트를 담은 연구 카탈로그를 공개했습니다. 이 컬렉션에는 372개 패밀리, 722개의 원고가 포함되어 있으며, 다양한 검증 단계의 결과물을 제공합니다. 모델 개발 과정에서 성능 포화에 대응하여 수학적 평가 범위를 확장한 것이 특징입니다.
10월 7일1
Lobste.rsAI 번역헤드라인
초지능인가 미신인가? 개인 행동에 대한 AI 예측 신뢰에 영향을 미치는 심리적 요인 탐구
본 연구는 개인 행동 예측에 대한 AI의 신뢰도가 점성술 등 초자연적 믿음과 유사한 심리적 요인에 영향을 받는다는 것을 탐구합니다. 참가자 실험 결과, 초자연적 믿음이나 긍정적인 AI 태도는 AI 예측의 타당성과 유용성을 높이는 것으로 나타났습니다. 이는 AI 분야에서 '합리적 미신' 현상을 보여주며, 책임 있는 시스템 설계에 시사점을 제공합니다.
10월 7일1
Lobste.rsAI 번역헤드라인
Burn 0.22.0: 더 빠른 빌드, 쉬워진 확장, 그리고 스마트해진 자동 튜닝
Burn 0.22 버전은 애플리케이션 구축 및 커스텀 커널 통합을 용이하게 하며, 컴파일 시간과 빌드 속도를 크게 개선했습니다. 핵심 변경 사항은 모델 정의에서 백엔드 타입 매개변수를 제거하고 장치(Device) 기반 실행으로 전환한 것입니다. 이로써 재빌드 시간이 최대 15배까지 단축되었으며, 적응형 메모리 관리와 스마트 자동 튜닝 기능도 추가되었습니다.
10월 7일1
Lobste.rsAI 번역헤드라인
ARC-AGI-1에서 44% 달성, 67센트의 비용으로
작성자는 5090 GPU로 작은 트랜스포머 모델을 단시간에 학습시켜, 높은 성능과 낮은 비용을 동시에 달성했음을 발표했습니다. 이 연구는 샘플 효율성을 핵심 목표로 삼아 ARC(Abstraction and Reasoning Corpus) 벤치마크에서 뛰어난 결과를 보여주었으며, 오픈 소스로 공개되었습니다.
10월 7일1