Agentic Cybersecurity LLM 모델인 TitusLLM-35B-A3B-v1의 Q4 K_M GGUF 버전 출시

여러분, 저의 Agentic Cybersecurity LLM 모델인 TitusLLM-35B-A3B-v1의 Q4 K_M GGUF 버전이 출시되었습니다 🎉 Qwen3.6-35B-A3B MoE LLM을 기반으로, 터키어 분류 체계 (taxonomy) 비중이 높은 500,000개 이상의 방대한 데이터셋을 사용하여 사이버 보안에 특화된 모델을 만들었습니다. Multi-Expert 모델 파트 중 거의 4 Billion (40억) 개의 파라미터를 LoRA를 통해 미세 조정 (fine-tuning) 하여 구축했습니다. SOC 운영, DFIR, 탐지 엔지니어링 (detection engineering), 클라우드 보안 (cloud security), AppSec, IAM, GRC 및 퍼플 팀 (purple-team) 시나리오에서 더욱 운영 중심적이고, 문맥에 민감하며, 아티팩트 (artifact) 중심적이고, 무엇보다 Agentic 기반의 응답을 생성할 수 있도록 설계했습니다.

벤치마크 결과, 미세 조정된 모델이 특히 다음과 같은 분야에서 베이스 모델 (base model) 대비 매우 강력하고, 컴팩트하며, 운영 가능한 답변을 제공함을 확인했습니다:

• LSASS 텔레메트리 (telemetry) 분석
• 피싱 분류 (Phishing triage) 플레이북
• Kubernetes 대시보드 노출 검토
• PowerShell 인코딩된 명령 분류 (triage)
• Docker 이미지 하드닝 (hardening)
• SQL 인젝션 로그 평가
• IAM 권한 상승 (privilege escalation) 패턴 분석

데이터셋을 준비하면서 특히 사이버 보안 분야의 분류 체계 (taxonomy) 설계, 이중 용도 안전 라벨링 (dual-use safety labeling), 터키어 기술 언어 적응, 그리고 아티팩트 기반 추론 (artifact-grounded reasoning)에 대해 매우 값진 경험을 할 수 있었습니다. 제 Hugging Face 계정을 통해 MLX 4 Bit 및 GGUF Q4 버전 모두로 모델에 접근하실 수 있습니다.
[IMG:1]