b11612: 유니그램 토크나이저에 선택적 NFC 정규화 추가 (#30390)
요약
Unigram 토크나이저에 선택적 NFC 정규화 기능을 추가하는 업데이트 내용입니다. 이 변경 사항은 텍스트 전처리 과정에서 유니코드 처리를 개선하여, 모델 학습 및 개발 환경의 안정성을 높이는 데 기여합니다.
핵심 포인트
- Unigram 토크나이저에 선택적 NFC 정규화 기능 추가
- 유니코드 처리 개선을 통한 텍스트 전처리 안정성 향상
- Codex 도움을 받아 Sol 6.1 미디엄 사용 언급
다른 탭이나 창에서 로그인했습니다. 세션을 새로 고치려면 다시 로드하십시오. 다른 탭이나 창에서 로그아웃했습니다. 세션을 새로 고치려면 다시 로드하십시오. 다른 탭이나 창에서 계정을 전환했습니다. 세션을 새로 고치려면 다시 로드하십시오. 알림 해제
- 유니코드 (unicode): Unigram 토크나이저(tokenizers)에 대한 선택적 NFC 정규화 추가. 참고: Codex의 도움을 받아 Sol 6.1 미디엄 사용
- 초기 봇 주석 및 linter 오류 수정 (print 대신 기존 out 사용)
- test_nfc_tokenizer 제거
AI 자동 생성 콘텐츠
본 콘텐츠는 llama.cpp Releases의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기