AI에게 제발 '고급 어휘'나 '생소한 단어'를 쓰지 마세요!!

요약

AI 모델의 성능을 높이기 위해 고급 어휘 대신 사전 학습 데이터에서 빈도가 높은 표현을 사용하는 것이 효과적이라는 연구 결과를 소개합니다. 이를 'Adam’s Law(텍스트 빈도 법칙)'라고 정의하며, 모델이 익숙한 확률 공간 내에서 작업하도록 유도하는 전략을 강조합니다.

핵심 포인트

• 고급 어휘보다 학습 데이터 내 고빈도 표현 사용이 성능 향상에 유리함
• Adam’s Law: 데이터 엔지니어링의 새로운 차원인 '빈도' 제안
• 모델이 가장 익숙한 확률 공간 안에서 작업하도록 프롬프트 설계 필요