Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
OpenLLM-France가 개발한 Luciole-23B-Instruct-1.1은 오픈 소스 다국어 인과 언어 모델입니다. 이 모델은 BPI France의 지원을 받아 Jean Zay에서 세 단계에 걸쳐 SFT와 DPO를 거쳐 파인튜닝 및 정렬되었습니다. 수학, 코딩, RAG 등 다양한 분야의 지식을 학습했습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/LocalLLaMA의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기Luciole-23B-Instruct-1.1은 OpenLLM-France가 개발한 오픈 소스 다국어 인과 언어 모델인 Luciole-23B-Base를 파인튜닝(fine-tuned)하고 정렬(aligned)한 버전입니다. Luciole-23B-Instruct-1.1은 BPI France의 France 2030 프로그램을 통해 자금을 지원받아 LINAGORA와 OpenLLM-France 컨소시엄에 의해 OpenLLM France 프로젝트의 일환으로 개발되었습니다. Luciole-23B-Instruct-1.1의 학습은 Jean Zay에서 세 단계로 진행되었습니다: (i) 사고 흔적(thinking traces)이 포함된 명령어 데이터(instruction data)를 사용한 지도 파인튜닝(Supervised Fine-Tuning, SFT) 단계, (ii) 사고 흔적이 없는 명령어 데이터를 사용한 SFT 단계, 그리고 (iii) Direct Preference Optimization (DPO)을 사용한 최종 선호도 정렬(preference alignment) 단계. 학습 데이터는 수학, 과학, 코딩, 일반 채팅, RAG 및 번역 분야의 주제를 다룹니다. 8B 및 1B 버전도 사용 가능합니다. 컬렉션: https://huggingface.co/collections/OpenLLM-France/luciole-llm /u/Balance-가 제출했습니다. [link] [comments]