“Anthropic 외에 Constitutional AI를 제품화하는 유일한 팀은 우리입니다”

요약

Trishool AI가 Anthropic의 Constitutional AI 방식을 제품화하며, Alibaba Qwen의 가드 모델보다 훨씬 작은 0.8B 규모의 SOTA급 가드 모델을 개발 중임을 밝혔습니다. Bittensor 채굴자들의 탈옥 시도를 통해 모델의 견고함을 강화하는 연구를 진행하고 있습니다.

핵심 포인트

• 0.8B 규모의 초소형 SOTA 가드 모델 학습 중
• Constitutional AI 기술의 제품화 및 적용
• 탈옥(Jailbreak) 시도를 통한 모델 견고성 강화 분석