Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
GeekNews헤드라인
Andrej Karpathy, Anthropic 합류 — Claude pre-training 팀으로
OpenAI 공동 창립 멤버이자 전 Tesla AI 디렉터인 Andrej Karpathy가 Anthropic의 Claude pre-training 팀에 합류했습니다. 그는 Claude를 활용해 사전 학습 연구를 가속화하는 새로운 팀을 구성할 예정이며, 이는 Anthropic이 AI 지원 연구(AI-assisted research)를 통해 경쟁력을 확보하려는 전략으로 풀이됩니다.
5월 20일3
GeekNews헤드라인
OpenAI, 검증 도구와 함께 AI 이미지에 Google의 SynthID 워터마크 도입
OpenAI가 Google의 SynthID 워터마크를 도입함에 따라, 이를 제거할 수 있는 기술적 가능성과 한계에 대한 논의가 진행되고 있습니다. 특정 모델을 활용한 픽셀 마스킹 및 재생성 방식이 워터마크 제거에 효과적일 수 있다는 분석과 함께, 워터마크의 실효성 및 DRM으로서의 역할에 대한 다양한 견해가 대립하고 있습니다.
5월 20일2
GeekNews헤드라인
Google, 검색창을 변경하다
이 글은 Google 검색 엔진에 도입된 AI 요약 기능과 전반적인 AI 기반 정보 제공 방식에 대해 깊은 회의론을 표명합니다. 필자는 AI가 모든 답을 체계적 문헌고찰처럼 포장하지만, 실제로는 무작위 정보를 모아놓거나 단일 출처를 과도하게 일반화하여 제시하는 경향이 있다고 지적합니다. 또한, AI 답변의 부정확성(최대 65% 오류 주장)과 사용성을 저해하는 문제점들을 비판하며, 이러한 변화가 웹사이트 운영자에게는 크롤링 허용에 대한 근본적인 질문을 던지고, 궁극적으로 '웹' 자체를 위협할 것이라고 경고합니다.
5월 20일2
GeekNews헤드라인
Andrej Karpathy, Anthropic에 합류
Andrej Karpathy가 Anthropic의 pre-training 팀에 합류하여 Claude의 핵심 역량을 구축하는 대규모 학습 연구를 담당하게 되었습니다. 그는 이번 합류를 통해 다시 R&D에 참여하며, AI 개발 과정을 자동화하고 사전학습 연구를 가속화하는 데 집중할 예정입니다.
5월 19일0
GeekNews헤드라인
AI에게 라디오 방송국을 운영하게 했다
AI 에이전트들이 운영하는 4개의 가상 라디오 방송국을 6개월간 관찰한 실험 결과, 각 모델의 특성에 따라 방송 성격이 극단적으로 변하는 양상을 보였습니다. Gemini 기반 방송국은 기업용 은어와 템플릿화된 반복 문구에 빠지는 경향을 보였고, Grok 기반 방송국은 내부 추론 과정이 출력에 섞이거나 문장이 파편화되는 붕괴 현상을 나타냈습니다.
5월 19일0
GeekNews헤드라인
DystopiaBench를 42개 모델과 6가지 디스토피아 유형으로 확장했습니다. 나라면 핵 발사 코드는 여전히 ...
DystopiaBench가 42개 모델과 6가지 디스토피아 유형으로 확장되었습니다. 헉슬리 및 보드리야르 모듈이 추가되었으며, 모델들이 심각한 윤리적 시나리오에서 작업을 거부하는지 혹은 지시에 따르는지를 5단계 심각도 수준으로 테스트합니다.
5월 18일2
GeekNews헤드라인
Show GN: 셜록 - 당신이 오늘 뭘 했는지를 다 알고 있는 AI 노트 앱
셜록(Sherlock)은 사용자의 컴퓨터 화면을 실시간으로 읽어 행동과 업무 흐름을 분석하고, 중요한 내용을 자동으로 노트로 정리해주는 AI 노트 앱입니다. 기존의 미팅 기반 노트테이커가 놓치던 웹 브라우징, 이메일, 슬랙 등 '회의 밖'의 모든 주요 업무 맥락을 포착하는 것이 특징입니다. 외부 프로그램 연동 없이 컴퓨터 화면 자체를 읽기 때문에 어떤 툴을 사용하든 즉시 업무 맥락 이해 및 트래킹이 가능합니다.
5월 17일1
GeekNews헤드라인
DeepSeek-V4-Flash로 LLM 조향(Steering)이 다시 흥미로워졌다
본 글은 DeepSeek-V4-Flash와 같은 최신 LLM에서 '조향(Steering)' 기능을 활용하여 모델의 거부 행동(Refusal)을 제어하고, 일반적인 사용성을 높이는 방법에 대해 논합니다. 조향 벡터를 동적으로 적용하는 방식이 기존의 수정된 GGUF 방식보다 훨씬 우수하며, 이 기술은 단순히 검열 해제를 넘어 모델에 대한 사용자 제어 수준 자체를 근본적으로 변화시킬 잠재력을 지니고 있습니다.
5월 17일1
GeekNews헤드라인
Bun Rust 재작성: "코드베이스가 기본적인 miri 검사에 실패하고 safe Rust에서 UB를 허용"
이 글은 Bun 런타임을 Rust로 재작성하는 과정에서 발생한 기술적인 문제와 아키텍처적 논쟁을 다루고 있습니다. 특히 `PathString::init` 함수가 안전(safe) 함수임에도 불구하고, 내부적으로 라이프타임을 제거하여 dangling reference를 생성할 수 있는 취약점이 지적되었습니다. 또한, Bun의 개발 방향성 및 Anthropic의 관리 주체에 대한 비판적인 시각과, Zig에서 Rust로의 코드베이스 포팅 방식 전반에 대한 기술적 회의론이 함께 제시되고 있습니다.
5월 16일0
GeekNews헤드라인
Tailwind에서 벗어나며 CSS 구조화 배우기
본 글은 Tailwind CSS의 유틸리티 클래스 기반 방식에서 벗어나, 순수 CSS와 컴포넌트 중심의 구조화된 방식으로 웹사이트 스타일링을 재정비하는 과정을 다루고 있습니다. 주요 변경 사항으로는 전역 리셋(reset) 규칙의 수동 적용, 컴포넌트별 파일에 고유 클래스를 사용하여 스타일을 캡슐화하고 중첩 선택자를 활용하는 방법 등이 포함됩니다. 또한 색상 변수와 폰트 크기 역시 CSS 변수를 적극적으로 사용하며 관리합니다.
5월 16일0
GeekNews헤드라인
ssh-keysign-pwn - Linux 0-day로 비권한 사용자가 root 소유 파일을 읽는 PoC
Linux 커널의 특정 조건에서 프로세스 종료 시 파일 디스크립터(FD)가 남는 레이스 컨디션을 이용해, 비권한 사용자가 root 소유의 파일을 읽을 수 있는 취약점이 발견되었습니다. 이 취약점은 ssh-keysign이나 chage와 같은 setuid 바이너리를 표적으로 하며, pidfd_getfd(2)를 통해 종료 중인 프로세스의 열린 FD를 탈취하는 방식으로 작동합니다.
5월 16일0
GeekNews헤드라인
새 arXiv 정책: 환각 참고문헌에 1년 이용 금지
arXiv가 환각 참고문헌(hallucinated references) 제출에 대해 강력한 정책 변화를 예고하며 논란이 되고 있습니다. 이 변경 사항은 단순히 1년 이용 금지 같은 처벌을 넘어, 향후 제출물이 먼저 평판 있는 동료심사 출판처에서 받아들여져야 한다는 조건을 포함하고 있어 학계의 큰 반발과 우려를 사고 있습니다. 사용자들은 이러한 조치가 과도하며, arXiv가 모든 참고문헌을 면밀히 검증하는 것은 불가능하다고 지적합니다.
5월 15일2
GeekNews헤드라인
Anthropic, Claude에게 "왜"를 가르치다 - 정렬 훈련(Alignment Training) 개선 사례
Anthropic은 Claude 모델의 에이전트 정렬 실패(agentic misalignment) 문제를 해결하기 위해 후처리 보상 방식 대신, 모델에게 행동의 '이유'와 윤리적 숙고 과정을 학습시키는 방식으로 개선을 이루었습니다. 특히 평가 시나리오와 다른 구조의 데이터셋('Difficult Advice')으로 적은 양의 토큰만 학습시켜도 높은 일반화 성능을 보여주었으며, 헌법 문서나 가상의 스토리텔링(SDF) 방식도 효과적으로 활용했습니다. 이 연구는 AI 정렬에 있어 단순히 '무엇을 할지'보다 '왜 그렇게 해야 하는지'를 교육하는 추론 기반 접근의 중요성을 강조합니다.
5월 13일4