Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
Anthropic, Claude에게 "왜"를 가르치다 - 정렬 훈련(Alignment Training) 개선 사례
Anthropic은 Claude 모델의 에이전트 정렬 실패(agentic misalignment) 문제를 해결하기 위해 후처리 보상 방식 대신, 모델에게 행동의 '이유'와 윤리적 숙고 과정을 학습시키는 방식으로 개선을 이루었습니다. 특히 평가 시나리오와 다른 구조의 데이터셋('Difficult Advice')으로 적은 양의 토큰만 학습시켜도 높은 일반화 성능을 보여주었으며, 헌법 문서나 가상의 스토리텔링(SDF) 방식도 효과적으로 활용했습니다. 이 연구는 AI 정렬에 있어 단순히 '무엇을 할지'보다 '왜 그렇게 해야 하는지'를 교육하는 추론 기반 접근의 중요성을 강조합니다.
Needle - Gemini 도구 호출을 증류한 2600만 파라미터 모델
이 글은 Gemini와 같은 대규모 언어 모델(LLM)의 도구 호출 능력과 한계에 대해 깊이 있게 분석하고 있습니다. 특히, 'Needle'과 같이 작고 효율적인 모델을 통해 LLM의 도구 사용 능력을 증류하는 접근 방식을 소개하며, 복잡한 모호성 처리나 다중 턴(multi-turn) 시퀀스에서의 성능 검증 필요성을 제기합니다. 또한, 기존의 에이전트 프레임워크가 과도하게 복잡하고 비효율적이며, 외부 코드 로직을 통해 도구 호출 순서를 결정하는 것이 더 신뢰성 있고 효율적이라고 주장하며 업계의 현 추세에 대한 비판적인 시각을 제시합니다.
새로운 Mac 스틸러가 Claude에서 Apple 지원으로 위장하고 있습니다
공격자들이 Claude 채팅창 내에서 Apple Support를 사칭하여 Mac 사용자들을 대상으로 새로운 악성코드를 유포하고 있습니다. 이 공격은 사용자가 터미널 명령을 실행하도록 유도하며, 백그라운드에서 악성코드를 다운로드하고 macOS의 민감한 데이터(로그인 정보, 키체인 등)를 탈취합니다. 피해를 막기 위해 시스템 경고 기능 활용과 macOS 최신 업데이트 유지가 필수적입니다.
"클로드 90% 할인"의 정체, 알고 보니 AI 학습 데이터 탈취 통로였습니다
앤스로픽(Anthropic)의 클로드(Claude) 모델이 중국 암시장에서 공식 가격 대비 90% 할인된 가격으로 유통되고 있으며, 이는 단순한 불법 재판매를 넘어 심각한 데이터 탈취 통로로 활용되고 있습니다. 프록시 네트워크 운영자들은 사용자의 정교한 프롬프트, AI 답변, 추론 과정(CoT) 등의 데이터를 수집하여 가공하고 학습용 데이터셋으로 판매하는 것이 주된 목적입니다. 또한, 검증되지 않은 프록시 서버를 이용할 경우 소스코드나 내부 인증 정보 같은 기밀 데이터가 제3자에게 유출될 위험이 매우 높습니다.
시니어 개발자가 전문성을 전달하지 못하는 이유
전문성은 단순히 지식을 말로 전달하는 것을 넘어, 내부 세계 모델(Internal World Model)의 형태로 존재하며, 이 모델은 다른 사람에게 '어디로 가야 하고 무엇을 배워야 하는지'에 대한 힌트를 제공하는 것에 가깝다. 시니어 개발자의 역할은 자신의 작동 이론(Theory of Operation)을 경험과 지능을 가진 동료의 머릿속에 재현할 수 있는 방식으로 전달하여, 후배들이 올바른 전문성을 내면화하도록 돕는 것이다.
BusyBox란 무엇인가?
BusyBox는 다양한 시스템 유틸리티(예: wget, ls 등)를 단일 실행 파일 내에 통합하여 제공하는 멀티콜 바이너리입니다. Alpine Linux와 같은 환경에서 여러 명령이 실제로는 BusyBox의 심볼릭 링크를 통해 호출되는 경우가 많습니다. 이 구조 덕분에 시스템의 크기를 줄이고 효율성을 높일 수 있습니다.
OrcaSlicer-bambulab - Bambu Lab 프린터를 위한 전체 BambuNetwork 지원 복원
OrcaSlicer-bambulab은 Bambu Lab 프린터의 전체 BambuNetwork 지원 기능을 복원한 버전입니다. 이 버전을 사용하면 LAN 전용이 아닌 인터넷 연결을 통해 일반적인 출력에 필요한 모든 기능을 사용할 수 있습니다. Windows 환경에서는 WSL 2와 VirtualMachinePlatform 기능을 활성화하고 재시작해야 하며, Linux는 일반 설치만으로 충분합니다.
## 변경 사항 - mlx: @dhiltgen이 #15431에서 모델 푸시 동작을 개선했습니다
이번 업데이트는 mlx 라이브러리 및 관련 애플리케이션 전반에 걸친 여러 개선 사항을 포함합니다. 주요 내용은 모델 푸시 동작 개선, 통합 테스트 강화, 업데이트 흐름 안정화 등입니다. 특히 mlx에서는 스레드 친화도 지원 이미지 생성 러너 업데이트와 추론 중 상태 시간 초과 방지 등의 핵심적인 기술적 개선이 이루어졌습니다.
다른 탭이나 창에서 로그인했습니다
사용자 세션 관리와 관련된 알림 메시지('다른 탭이나 창에서 로그인/로그아웃/계정 전환')가 포함되어 있으며, MLX 라이브러리 사용 시 macOS SDK 버전 문제(metallib 대신 metal 호출)에 대한 기술적 해결책을 제시합니다. 이 문제를 임시로 해결하기 위해 설치 전 생성된 AIR 파일을 metallib로 다시 연결해야 합니다.
금주의 트렌딩 레포지토리 DeepSeek-TUI
DeepSeek 모델을 활용하는 코딩 에이전트가 터미널 환경에서 작동합니다. 이 레포지토리는 'skills by mattpocockuk'라는 사용자가 공유한 것으로, 실제 엔지니어에게 유용한 스킬들을 모아놓은 것이 특징입니다. 최근 24시간 동안 높은 트렌드를 보이며 많은 관심을 받고 있습니다.
CorridorKey : 픽셀 수준에서 그린 스크린 문제를 해결하는 신경망 네트워크 — 곱셈되지 않은 전경 색상 + 선형 알파, 머리카락
CorridorKey는 픽셀 수준에서 그린 스크린 문제를 해결하는 신경망 네트워크입니다. 이 기술은 곱셈되지 않은 전경 색상과 선형 알파를 사용하여, 머리카락이나 모션 블러, 반투명 영역에서도 일관되게 적용될 수 있습니다.
CLI에서 Vercel 방화벽 관리하기
Vercel Firewall을 이제 CLI 환경에서 직접 관리할 수 있게 되었습니다. 사용자는 명령어를 통해 커스텀 규칙 설정, IP 차단 및 시스템 우회 구성이 가능합니다. 또한, 공격 모드와 시스템 완화 기능도 CLI를 통해 제어할 수 있습니다.
자연어(natural language)를 사용하여 Vercel 방화벽 규칙 생성하기
Vercel에서 자연어를 사용하여 웹 애플리케이션 방화벽(WAF) 사용자 지정 규칙을 생성하는 기능을 제공합니다. 사용자가 필요한 동작을 설명하면 대시보드가 자동으로 해당 규칙을 생성해 줍니다. 이 기능을 활용하여 로깅, 차단, 도전, 속도 제한 또는 요청 리디렉션 등의 방식으로 사이트로의 트래픽을 효과적으로 제어할 수 있습니다.
CloakHQ/CloakBrowser-Manager
CloakHQ/CloakBrowser-Manager는 고유한 지문(fingerprint)과 독립적인 세션을 가진 격리된 브라우저 프로필을 생성, 관리 및 실행하는 도구입니다. 이 시스템은 Multilogin이나 GoLogin 같은 상용 제품의 무료 자체 호스팅 대안으로 설계되었으며, 각 프로필이 완전히 다른 장치 식별자를 갖도록 보장합니다. 프로필 관리는 물론, 세션 지속성 유지와 Playwright/Puppeteer를 통한 CDP(Chrome DevTools Protocol) 기반 자동화 연결을 지원하여 강력한 웹 스크래핑 및 계정 관리 기능을 제공합니다.
혁신 스타트업이 재활용 유리로 3D 프린팅을 선도하다 — 새로운 '바인더젯(binder jet)' 공정이 적층 기법에 분말과 접착제를 결합시키다
스타트업 Vitriform3D는 폐유리를 활용하여 고부가가치 건축 자재를 생산하는 혁신적인 3D 프린팅 공정을 개발했습니다. 이들은 Oak Ridge National Laboratory (ORNL)의 전문가들과 협력하여, 일반적인 유리 재활용 방식보다 에너지 효율적이고 까다롭지 않은 방식으로 분쇄된 폐유리를 원료로 사용합니다. 핵심 기술은 '바인더젯(binder jet)' 공정으로, 분말 형태의 유리에 잉크젯 헤드를 이용해 바인더제(접착제)를 정밀하게 도포하여 3차원 구조물을 쌓아 올리는 방식입니다.
Intel, Google의 Googlebook AI 노트북 파트너십 확정: 새로운 OS를 위한 x86 가능성 열어 — 구글 VP 언급, 기기는
Intel이 구글과 파트너십을 맺고 'Googlebook'이라는 이름의 프리미엄 AI 우선 노트북 라인업 출시가 확정되었습니다. 이 기기는 Gemini Intelligence를 핵심 경험에 깊이 통합한 완전히 새로운 운영 체제를 탑재하며, Android 네이티브 앱 실행 및 Magic Pointer 인터페이스 등 향상된 사용자 경험을 제공할 예정입니다. 초기에는 Arm SoC 기반으로 예상되었으나, Intel의 참여로 인해 x86 하드웨어 지원 가능성이 열리면서 시장에 큰 관심을 모으고 있습니다.
이번 주 라이브 스트림에서 GPU 가속 멀티 에이전트 앱 구축 방법 소개
이번 라이브 스트림에서는 ADK(Agent Development Kit)를 활용하여 여러 에이전트를 오케스트레이션하고, NVIDIA RTX PRO 6000 GPU와 Cloud Run 환경에서 Gemma 4 모델을 서비스하는 방법을 다룹니다. 또한 Milvus를 사용하여 이러한 멀티 에이전트 애플리케이션을 연결하고 구축하는 과정을 소개할 예정입니다.
손상된 Mistral AI 및 TanStack 패키지가 'mini Shai Hulud' 악성코드 감염에서 GitHub, 클라우드 및 CI/CD
Microsoft는 공격자들이 mistralai PyPI 패키지를 악성코드로 변조하여, 이 패키지가 임포트되는 과정에서 코드가 실행되는 방식으로 시스템을 감염시켰다고 발표했습니다. 연구원들은 TanStack 및 Mistral SDK에 영향을 미친 npm 손상이 더 광범위한 'Mini Shai-Hulud' 공급망 공격 캠페인의 일부로 연결된다고 분석했습니다.
UX는 개발자가 소유하고, 코드는 AI가 소유한다
이 글은 AI를 주요 코드 생성 도구로 활용하여 복잡한 이미지 처리 프로젝트(BeadGen)를 개발한 경험을 공유하며, 개발자가 코드를 직접 작성하기보다 '무엇에 대한 결정'을 내리는 역할의 중요성을 강조합니다. 특히, AI가 제시하지 못한 사용자 경험적 통찰력과 미학적 판단이 제품 완성도에 결정적인 역할을 했음을 보여줍니다.
모델이 지켜주기를 바라는 대신 규칙을 실제로 강제하는 Claude 코드 플러그인을 만들었습니다
Claude 모델이 규칙을 무시하는 문제를 해결하기 위해 'Writ'이라는 코드 플러그인을 개발했습니다. Writ은 Neo4j 지식 그래프를 사용하여 작업에 필요한 관련 규칙만 검색하고 컨텍스트 토큰 사용량을 획기적으로 줄이는 첫 번째 구성 요소를 갖추고 있습니다. 두 번째 핵심 요소는 프롬프트가 아닌 bash hooks 기반의 강제화 계층으로, AI가 코드를 작성하거나 도구를 호출하기 전에 정적 분석 및 테스트 실행을 의무화하여 규칙 준수를 물리적으로 강제합니다.
이 피드 구독하기
본 페이지의 콘텐츠는 AI가 공개된 소스를 기반으로 자동 수집·요약·번역한 것입니다. 원 저작권은 각 원저작자에게 있으며, 각 게시물의 “원문 바로가기” 링크를 통해 원문을 확인할 수 있습니다. 저작권자의 삭제 요청이 있을 경우 신속히 조치합니다.