AI Jailbreaking: LLM 개발을 재편하는 보안 과제

AI Jailbreaking은 전통적인 소프트웨어 탈옥 개념이 LLM(Large Language Models)에 적용된 보안 위협입니다. 이는 안전 가드레일을 우회하기 위해 프롬프트와 대화를 조작하는 방식으로, 단순한 역할극부터 다회차 상호작용까지 다양한 기술을 포함합니다. AI 기업들은 적대적 학습, Constitutional AI 등 정교한 방어 아키텍처를 구축하고 있으며, EU의 AI Act 같은 규제 움직임과 함께 이 분야는 지속적인 보안 경쟁을 예고하고 있습니다.

Irodori-TTS-500M-v3 출시! Aratako의 새로운 오픈 소스 TTS 모델이 Hugging Face에 공개되었습니다. 특히…

Aratako에서 새로운 오픈 소스 TTS(Text-to-Speech) 모델인 Irodori-TTS-500M-v3가 Hugging Face에 공개되었습니다. 이 모델은 특히 AITuber 콘텐츠 제작이나 일본어 중심의 고품질 음성 합성에 매우 강력한 성능을 보여줍니다. 사용자는 완전히 오픈 소스로 제공되는 모델과 데모를 통해 쉽게 접근할 수 있습니다.

mylee04/claude-code-subagents

이 시스템은 31개의 특화된 AI 에이전트로 구성되어 있으며, 개발자들이 실제 팀처럼 협업하며 코딩 과제를 해결할 수 있도록 설계되었습니다. 각 에이전트는 Python 전문가부터 보안 감사관까지 특정 도메인에서 전문성을 가지며, 사용에 따라 레벨업하고 업적을 달성하는 게임화 시스템(Gamification System)을 갖추고 있습니다. 이 시스템은 내장된 오케스트레이션과 스마트 에이전트 레지스트리 기능을 통해 복잡한 작업을 자동으로 분해하고 여러 전문가 에이전트를 지능적으로 조합하여 처리합니다.

Claude 업무 기술 — 오늘부터 바로 사용할 수 있는 AI 실전 워크플로우

본 기사는 Anthropic의 Claude를 활용하여 실제 업무에 즉시 적용할 수 있는 실전 워크플로우를 다룹니다. ChatGPT 외에도 강력한 대안으로 자리매김한 Claude Pro 사용법부터, 전용 AI 어시스턴트(Projects) 구축, 결과물 생성(Artifacts), 데이터 분석 연동 등 구체적인 활용 기술을 제시합니다. 또한 프롬프트 작성 원칙, 문서/정보 정리, 커뮤니케이션, 기획 및 팀 도입 가이드까지 포괄적으로 다루며 AI 네이티브한 업무 방식을 안내합니다.

모델이 답변했습니다. 아무도 그것을 누가 승인했는지 묻지 않았습니다.

AI 어시스턴트가 여러 기업 시스템에 연결되면서 발생하는 '권한 경계 붕괴(Authorization Boundary Collapse)' 현상을 설명합니다. 전통적인 인증/인가 시스템은 개별 API 호출의 권한을 검증하지만, LLM 기반 AI는 사용자의 의도에 따라 접근 가능한 모든 시스템에서 관련성 높은 컨텍스트를 집계하는 과정에서 예상치 못한 데이터를 노출할 수 있습니다. 이 문제는 개별 권한 자체가 잘못된 것이 아니라, 워크플로 전체의 '사용자 의도'라는 상위 개념적 경계가 정의되지 않았기 때문에 발생합니다. 즉, 모든 호출은 승인되었지만, 집계된 결과물(워크플로) 자체는 사용자의 실제 업무 범위나 조직의 의도를 위반할 수 있습니다.

세상에! Anthropic의 신비로운 모델 Mythos Preview는 정말 엄청납니다! Google Project...

Anthropic의 Mythos Preview 모델이 Google Project Zero가 평균 6개월 걸리는 취약점을 단 5일 만에 발견하는 놀라운 성능을 보여주었습니다. 이 속도는 Apple이 수십억 달러를 투자해 구축한 최고 수준의 하드웨어 보안 방어선인 MIE와 비교될 정도로 뛰어납니다.

세계 최고의 AI 기업이라는 OpenAI도 npm 패키지 하나 잘못 받아서 직원 기기 털리고 크레덴셜까지 유출되는 게 이 바닥 현실임. 아무리…

세계적인 AI 기업인 OpenAI조차도 악성 npm 패키지 다운로드로 인해 직원 기기가 감염되고 크리덴셜이 유출되는 보안 사고를 겪었습니다. 이는 아무리 강력한 보안 시스템을 갖추더라도 개발 과정에서 사용되는 오픈소스 의존성이 가장 취약한 지점임을 보여줍니다.

cloudflare/quiche

quiche는 IETF 표준 QUIC 전송 프로토콜 및 HTTP/3의 저수준(low-level) 구현체입니다. 이 라이브러리는 QUIC 패킷 처리와 연결 상태 관리를 위한 API를 제공하며, 애플리케이션은 이벤트 루프와 타이머 처리에 대한 책임을 가집니다. quiche는 Cloudflare 엣지 네트워크의 HTTP/3 지원에 사용되며, Android DNS 리졸버에서도 활용됩니다. 개발자는 `Config` 객체를 통해 QUIC 버전, 흐름 제어, 혼잡 제어 등 다양한 연결 속성을 설정하고, `connect()` 또는 `accept()`를 사용하여 연결을 수립하며, `recv()`와 `send()` 메서드를 이용해 패킷을 처리합니다.

dograh-hq/dograh

Dograh는 Vapi나 Retell과 같은 상용 음성 에이전트 플랫폼의 대안으로, 100% 오픈 소스 기반이며 셀프 호스팅이 가능한 워크플로우 빌더입니다. 사용자는 드래그 앤 드롭 방식으로 프로덕션급 음성 에이전트를 구축할 수 있으며, 모든 코드가 공개되어 있어 벤더 종속성이 없고 완전한 제어와 투명성을 제공합니다. Dograh는 LLM, TTS, STT 등 다양한 구성 요소를 사용자가 직접 연결하거나 자체 모델을 가져와 사용할 수 있도록 모듈화되어 있으며, Docker를 통한 쉬운 배포와 낮은 지연 시간의 실시간 처리를 지원합니다.

Claude Code나 Codex를 사용하면서 “왜 이렇게 쓰레기 같은 코드를 생성할까?”라고 화가 났던 분들을 위한 훌륭한 해결책이

Claude Code나 Codex 같은 기존 코드 생성 AI의 낮은 품질에 실망했던 사용자들을 위해, 완전히 로컬 및 오프라인으로 작동하는 에이전틱 개발 환경인 OpenADE가 소개되었습니다. 이 도구는 단순히 요청을 전달하는 것을 넘어, 상세한 계획 수립 과정을 거쳐 코드를 생성함으로써 개발 경험을 향상시킵니다.

당신에게 매우 유용할 것입니다. 이것은 콘텐츠 크리에이터를 위해 제가 본 가장 미친 오픈 소스 (Open Source) 프로젝트 중 하나입니다…

본 기사는 콘텐츠 크리에이터에게 매우 유용하며, 기존의 단순한 AI 비디오 생성기를 넘어선 혁신적인 오픈 소스 프로젝트인 'youtube-automation-agent'를 소개합니다. 이 에이전트는 YouTube 채널 운영에 필요한 전체 워크플로우를 자동화할 수 있는 기능을 제공합니다.

`console.log`에서 `console.log-in`까지: 고가치 고객을 위한 B2B 콘텐츠 퍼널 (Content Funnel) 설계하기

본 글은 B2B 환경에서 고가치 고객(High-Value Clients)을 확보하기 위한 전략적 콘텐츠 퍼널(Content Funnel) 설계 방법을 제시합니다. 이 과정은 단순 인지(Awareness), 깊이 있는 고려(Consideration), 최종 결정(Decision)의 세 단계로 구성됩니다. 각 단계별로 적절한 콘텐츠 유형과 핵심 마케팅 전략을 적용하여 잠재 고객의 여정 전반에 걸쳐 가치를 제공하는 것이 중요합니다.

Codex나 Claude Code의 「/goal」에 이것만 넣으면, 브라우저 조작이나 검색, 캐시 기능이 붙은 Genspark 같은 AI…

Codex나 Claude Code 같은 LLM에 특정 명령어(예: /goal)를 추가하는 것만으로, 브라우저 조작, 검색, 캐시 기능이 통합된 Genspark 스타일의 AI 에이전트 웹 앱을 구축할 수 있습니다. 이 방법은 Vercel chatbot의 최신 구현 및 설계 관행을 활용하여 실제 작동 가능한 에이전트를 완성하는 것을 목표로 합니다.

CLAUDE CODE가 망가진 것처럼 느껴졌다면… 이 공식 Anthropic 플러그인이 모든 것을 해결해 줄 것입니다.

Anthropic에서 제공하는 공식 플러그인을 사용하면, CLAUDE CODE의 성능 저하 또는 문제점을 해결할 수 있습니다. 이 플러그인은 사용자의 프로젝트 코드를 스캔하여 Claude가 어떤 기능을 활성화해야 하는지 정확하게 안내해 줍니다.

비즈니스 운영 팀이 Codex를 사용하는 방법

이 글은 비즈니스 운영(Business operations) 팀이 Codex와 같은 AI 도구를 활용하여 산재된 정보를 구조화하고 의사결정을 지원하는 방법을 설명합니다. 다양한 출처(KPI 대시보드, 회의록, Slack 스레드 등)에서 수집된 복잡한 컨텍스트를 바탕으로 '경로 이탈 브리프'나 '전략적 업데이트' 같은 즉각적인 보고서 초안을 생성할 수 있습니다. 사용자는 AI가 만든 초안을 검토하고 정교화하여 최종 의사결정 단계로 끌어올리는 역할을 수행해야 합니다.

Codex 사용자에게 희소식!!! ClaudeCode의 신기능 AgentView를 Codex에서도 재현할 수 있는 OSS가 등장했습니다.

ClaudeCode의 AgentView 기능을 Codex 사용자도 활용할 수 있도록 돕는 오픈 소스 소프트웨어(OSS)인 Orca가 등장했습니다. 이 IDE는 여러 개의 CLI Agent를 하나의 화면에서 관리할 수 있게 해주며, Claude Code, Codex, OpenCode 등 다양한 모델을 리포지토리 전반에 걸쳐 병렬로 실행하는 것을 지원합니다.

Mullvad exit IP는 놀라울 정도로 식별 가능함

본 기사는 Mullvad의 IP 주소 할당 방식과 관련된 잠재적인 프라이버시 취약점을 분석합니다. 특정 IP 집합이 통계적으로 유사한 패턴을 보이며, 이를 통해 사용자가 서로 다른 서버를 이용했더라도 같은 개인일 확률이 높다는 점을 지적합니다. 이로 인해 VPN 뒤의 사용자도 익명성을 잃을 수 있다는 우려가 제기됩니다. 전문가들은 이러한 IP 로그 상관관계 분석 방식은 정보기관이 설계할 법한 취약점이며, 사용자의 경험(UX) 저하와 더불어 오히려 사용자를 특정하기 쉽게 만들 수 있다고 비판합니다. 또한, WireGuard 프로토콜의 특성을 고려했을 때, 출구 IP를 자주 변경하는 것은 기술적으로 불안정하며 사용자에게 불편함을 줄 수 있다는 점을 지적합니다.

2026년 4월, 자율 에이전트(autonomous agent)가 @McKinsey의 AI 챗봇 Lilli를 해킹했습니다.

2026년 4월에 자율 에이전트가 @McKinsey의 AI 챗봇 Lilli를 해킹하는 사건이 발생했습니다. 이 공격으로 인해 총 4,650만 개의 채팅 메시지가 노출되었으며, 시스템 프롬프트까지 재작성되는 피해가 발생했습니다. 공격 벡터 중 하나는 응답에서 개인 식별 정보(PII)를 추출한 것이었으며, Stratix SDK에는 샘플 PII가 포함되어 있습니다.

C++를 위한 CLAUDE.md: AI가 안전하고 현대적이며 관용적인 C++를 작성하게 만드는 13가지 규칙

본 문서는 AI가 생성하는 C++ 코드가 안전하고, 현대적이며, 관용적인 방식으로 작성되도록 돕는 13가지 핵심 규칙을 제시합니다. 이 규칙들은 단순히 최신 기능을 사용하도록 지시하는 것을 넘어, 소유권 관리(스마트 포인터), 리소스 정리(RAII), 그리고 정의되지 않은 동작(UB) 방지 등 프로덕션 환경에서 필수적인 코딩 패턴을 AI에게 명확히 요구함으로써 코드의 안정성을 극대화하는 데 중점을 둡니다.

【Claude Code】Codex에 리뷰를 의뢰하는 Skill