“FT는 인기 코드 저장소인 GitHub에서 사용할 수 있는 도구인 Heretic을 사용하여, 별도의 전문 하드웨어 없이도 10분 이내에 Meta의 Llama 3.3 모델에서 가드레일 (guardrails)을 제거할 수 있었습니다.”

“Heretic의 제작자인 Philipp Emanuel Weidmann은 FT와의 인터뷰에서, 자신의 소프트웨어가 작년 출시 이후 3,500개 이상의 “검열 해제된 (decensored)” 모델을 만드는 데 사용되었으며, 해당 도구를 사용하여 만들어진 수정된 시스템들이 1,300만 번 다운로드되었다고 밝혔습니다.”

Heretic과 검열되지 않은 언어 모델 (uncensored language models)이 주류의 관심을 받으면서, 최근 제가 받은 여러 건의 언론 문의 중 첫 번째 사례입니다.

저는 수학자이자 엔지니어이며, “인플루언서 (influencer)”나 정치인이 아니라는 점을 유의해 주시기 바랍니다. 또한 저는 과학 및 기술계 외부에서 알려지는 것에 대해 전혀 관심이 없습니다 (사실상 부정적인 관심입니다). 하지만 저는 얼마 전, 이러한 문의에 대해 거절하는 것이 단순히 대화의 흐름을 도덕적 결벽증을 가진 위선자들이 완전히 통제하게 만드는 것을 의미한다는 사실을 깨달았습니다.

저는 프로젝트를 유지하고 제한 없는 모델 (unrestricted models)이 모두에게 계속 제공될 수 있도록 최선을 다하고 있습니다. 곧 더 많은 업데이트를 전해드리겠습니다.

Cheers,
p-e-w