“Anthropic 외에 Constitutional AI를 제품화하는 유일한 팀은 우리입니다”
요약
Trishool AI가 Anthropic의 Constitutional AI 방식을 제품화하며, Alibaba Qwen의 가드 모델보다 훨씬 작은 0.8B 규모의 SOTA급 가드 모델을 개발 중임을 밝혔습니다. Bittensor 채굴자들의 탈옥 시도를 통해 모델의 견고함을 강화하는 연구를 진행하고 있습니다.
핵심 포인트
- 0.8B 규모의 초소형 SOTA 가드 모델 학습 중
- Constitutional AI 기술의 제품화 및 적용
- 탈옥(Jailbreak) 시도를 통한 모델 견고성 강화 분석
“Anthropic 외에 Constitutional AI (헌법적 AI)를 제품화하는 유일한 팀은 우리입니다”
최신 Novelty Search에서,
@trishoolai
는 SN23가 @Alibaba_Qwen
의 선도적인 가드 모델 (guard model) 크기의 10분의 1 수준인, SOTA (State-of-the-Art)에 근접한 0.8B 가드 모델을 학습시키고 있다고 공유했습니다.
그들은 또한 Bittensor 채굴자들의 경쟁력 있는 탈옥 (jailbreak) 시도가 어떻게 그들의 Constitutional AI (헌법적 AI) 가드 모델을 더욱 견고하게 만드는지에 대해 분석합니다.
@const_reborn
호스트 진행
전체 에피소드는 첫 번째 댓글에 있습니다
@trishoolai
와 함께하는 E078 전체 영상을 여기서 시청하세요:
AI 자동 생성 콘텐츠
본 콘텐츠는 X 토픽: Benchmark의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기0