AI 해커의 등장! AI Agent가 스스로 취약점을 찾고 실제로 검증하는 오픈소스 프레임워크

Strix는 멀티 에이전트 협업을 통해 취약점을 탐지하고 실제 PoC로 검증하는 오픈소스 AI 해킹 프레임워크입니다. 정적 스캔의 오탐을 줄이고 자동 수정 PR 생성 및 CI/CD 통합을 지원하여 보안 테스트 과정을 혁신합니다.

이 예측은 직관과 합의에 반하는 것처럼 느껴지네요~

유럽과 미국의 기업들이 규제 준수, 제어권, 맞춤화 및 비용 효율성을 이유로 OpenAI나 Anthropic 대신 중국의 오픈 소스 모델로 전환할 것이라는 전망을 다룹니다. 중국 모델의 경량화와 최적화 기술이 발전함에 따라 기업의 선택지가 변화하고 있습니다.

REAR: 보상 분해를 통한 테스트 시간 선호도 재정렬 (Test-time Preference Realignment through Reward

LLM을 사용자 선호도에 맞게 정렬하기 위해 테스트 시간 스케일링(TTS)을 활용하는 새로운 프레임워크 REAR를 제안합니다. 보상 함수를 질문 관련 요소와 선호도 정보로 분해하여 효율적인 재정렬을 가능하게 하며, 수학 및 시각적 작업에서도 뛰어난 성능을 보입니다.

OLIVE: 음성 SSL을 위한 파형 재구성 및 뷰 증강 잠재 예측

OLIVE는 음성 SSL을 위한 새로운 프레임워크로, 뷰 증강 마스크 잠재 예측과 파형 재구성을 결합하여 최적화합니다. 이를 통해 신호 수준의 정보 유지와 견고한 문맥적 표현 형성을 동시에 달성합니다.

MaDI-Bench: 엔드투엔드(End-to-End) 데이터 통합 벤치마크

MaDI-Bench는 관계형 테이블의 엔드투엔드 데이터 통합을 평가하기 위해 제안된 최초의 벤치마크입니다. 스키마 매칭부터 충돌 해결까지 전체 파이프라인을 포괄하며, LLM 기반 파이프라인을 포함한 다양한 시스템의 성능을 검증할 수 있습니다.

생성적 사회 시뮬레이션을 통한 소비자 신뢰도의 현저성 중심 역학 규명

ConsumerSim이라는 생성적 인간-환경 반응 프레임워크를 통해 소비자 신뢰 지수(CCI)의 역학을 재구성하는 연구를 소개합니다. 합성 인구와 거시경제 데이터를 활용하여 경제 충격에 따른 소비자 신뢰의 변화를 정밀하게 시뮬레이션합니다.

MOPD: LLM 사후 학습(Post-Training) 시 능력 통합을 위한 다중 교사 온폴리시 증류 (Multi-Teacher

MOPD는 여러 도메인의 강화학습(RL) 능력을 하나의 LLM으로 통합하기 위한 새로운 사후 학습 패러다임입니다. 학생 모델의 자체 롤아웃을 통해 다중 교사의 능력을 증류함으로써 노출 편향을 제거하고 도메인 간 결합 문제를 해결합니다.

이질적인 지식 충돌 상황에서 강건한 RAG를 위한 체제 인식 피어 전문화 (Regime-Aware Peer Specialization)

RAG 시스템에서 외부 문맥과 모델 지식이 충돌할 때 발생하는 취약성을 해결하기 위한 RAPS-DA 프레임워크를 제안합니다. 샘플 및 토큰 수준에서 체제를 인식하여 전문화된 피어 전문가를 학습함으로써, 모델 규모를 키우지 않고도 충돌 상황에 강건한 성능을 구현합니다.

UFO³는 DAG 기반 실행 모델을 사용하여 여러 장치에 걸쳐 작업을 조율합니다.

UFO³는 DAG(유향 비순환 그래프) 기반 실행 모델을 통해 여러 장치 간의 작업을 조율하는 시스템입니다. Constellation을 통해 복잡한 작업을 분해하고 동적으로 워크플로를 편집하며 비동기 실행을 지원합니다.

Poller: LLM은 시 이해 태스크를 평가하기에 적합한가?

현대 중국 시 평가를 위해 LLM이 시인의 관점을 채택하여 평가하는 새로운 방법론인 Poller를 제안합니다. 실험 결과, Poller는 수사 기법 및 낯설게 하기 등 전문적 차원에서 기존 방식보다 인간과의 평가 오차를 획기적으로 줄였습니다.

하이브리드 어텐션 모델로의 변형 (Morphing into Hybrid Attention Models)

Transformer 모델의 긴 문맥 효율성을 높이기 위해 전체 어텐션과 선형 어텐션을 결합하는 하이브리드 모델 최적화 연구입니다. FlashMorph라는 새로운 레이어 선택 방법을 제안하여, 예산 제약 내에서 최적의 레이어 구성을 효율적으로 찾아냅니다.

파라미터가 아닌 지평을 확장하기: 35B 에이전트로 조 단위 파라미터급 성능 달성

35B MoE 모델인 Agents-A1을 통해 에이전트 지평을 확장하여 조 단위 파라미터급 성능을 달성하는 연구를 소개합니다. 장기 지평 궤적과 이질적 에이전트 능력을 결합한 3단계 학습 레시피를 통해 1T 모델과 대등한 성능을 구현했습니다.

다회차 LLM 대화에서 나타나는 어트랙터 상태 (Attractor States)

LLM 간의 다회차 대화에서 나타나는 '어트랙터(Attractor)' 현상을 연구한 논문입니다. 모델 간 상호작용 시 특정 모델의 스타일이 다른 모델에게 전이되어 대화가 특정 행동 집합으로 수렴하는 비대칭적 역학을 분석했습니다.

모호성 하에서의 불확실성 인지 생성 및 의사결정

본 연구는 베이지안 의사결정 이론과 위험 회피적 의사결정을 활용하여 LLM의 불확실성 인지 능력을 개선하는 알고리즘을 제안합니다. 튜터링 및 자동 동료 검토 작업에서 일치 예측(conformal prediction)을 통해 출력의 신뢰성을 높이는 방법을 다룹니다.

중국산 오픈 모델을 통해 AI 벤더 종속(Vendor Lock-In)에서 벗어나기

OpenAI와 같은 폐쇄형 모델의 높은 비용과 벤더 종속성에서 벗어나기 위한 대안으로 중국산 오픈 웨이트 모델들을 비교 분석합니다. DeepSeek, Qwen, Kimi, GLM의 성능, 가격, 라이선스 및 OpenAI 호환성을 검토합니다.

Ford의 AI 품질 검사 실패로 인해 300명의 엔지니어 복귀

Ford가 AI 품질 검사 시스템의 한계로 인해 300명 이상의 숙련된 엔지니어를 재고용했습니다. AI가 인간의 노하우를 충분히 학습하지 못해 발생한 운영상의 공백을 메우기 위한 조치입니다.

Karpathy의 Claude 코딩 소회에서 탄생한 4원칙 — CLAUDE.md 한 장으로 diff의 폭주를 막는 시도

확신에 찬 듯하지만 틀릴 수 있는 AI의 답변을 넘어선 새로운 접근법

AI의 단일 답변이 가진 불확실성을 해결하기 위해 여러 AI 모델이 토론하는 'Council of High Intelligence' 방식을 소개합니다. 다양한 페르소나와 모델을 활용해 다각도의 논의를 이끌어냄으로써 더 깊이 있는 통찰을 제공합니다.

침투 테스트의 정보 수집, 취약점 탐색, 검증, 보고서 작성 과정을 자동화하는 AI 기반 오픈소스 도구 VulnClaw

VulnClaw는 자연어로 명령하여 침투 테스트의 전 과정을 자동화하는 AI 기반 오픈소스 도구입니다. 정보 수집부터 취약점 탐색, 공격 검증, 보고서 작성 및 Python PoC 생성까지 지원합니다.

접종 어댑터 (Inoculation Adapters): 더 적은 놀라운 백도어를 통한 능력의 선택적 일반화 개선

창발적 정렬 불량에 대응하기 위해 LoRA 기반의 접종 어댑터(Inoculation Adapters) 기술을 제안합니다. 이 방식은 원치 않는 특성을 억제하면서도 기존 프롬프팅 방식보다 백도어 생성 위험을 낮추고 억제 효과를 높였습니다.