엔터프라이즈 소프트웨어 엔지니어링을 위한 LLM 커스터마이징

요약

Google은 엔터프라이즈 소프트웨어 엔지니어링에 최적화된 Gemini의 적응형 모델인 Gemini for Google(GfG)을 개발했습니다. 1조 개의 토큰으로 구성된 독점 데이터셋과 치명적 망각을 방지하는 미드 트레이닝 전략을 통해, 개발자의 반복 횟수를 23% 줄이고 코드 생존율을 17% 향상시키는 성과를 거두었습니다.

핵심 포인트

• 1조 개의 토큰으로 구성된 엔터프라이즈 특화 독점 데이터셋 큐레이션
• 치명적 망각(Catastrophic forgetting) 완화를 위한 미드 트레이닝 전략 적용
• 29,000명 대상 A/B 테스트를 통해 코드 생존율 17% 향상 입증
• 데이터 추출부터 풀스택 모델 튜닝, 배포까지의 엔드 투 엔드 방법론 제시