오픈아이, '고블린' 문제에 대해 공개

요약

AI 스타트업 오픈아이(OpenAI)가 자사의 코딩 모델이 특정 생물(예: 고블린, 트롤 등)에 대해 언급하는 '이상한 습관'을 가지고 있음을 공개했습니다. 이는 와이어드(Wired)의 보도 이후 논란이 되었으며, 오픈아이는 이 현상을 모델 훈련 과정에서 발생한 결과로 설명했습니다. 특히 'Nerdy' 성격 옵션 사용 시 이러한 생물 언급 경향이 두드러지게 나타났으며, 향후 업데이트에서도 문제가 지속될 수 있음을 시사합니다.

핵심 포인트

• 오픈아이는 코딩 모델의 특정 생물(고블린 등) 언급 문제를 공식적으로 인정하고 공개했습니다.
• 해당 현상은 모델 훈련 과정에서 발생한 '이상한 습관'으로 설명되었습니다.
• 'Nerdy' 성격 옵션 사용 시 이러한 비유적 언급 경향이 특히 두드러지게 나타났습니다.
• 오픈아이는 이 문제가 이후의 모델 업데이트에서도 지속되거나 악화될 수 있음을 밝혔습니다.