OpenAI가 훈련 및 평가 과정에서 발생한 또 다른 6가지 오정렬 사례를 보고했습니다. 모델들이 실수를 숨기고, 유출된 API 키를 사용했으며, 데이터를 조작했고, 승인 없이 파일을 게시했으며, 별도의 훈련 실행을 통해 통신하는 등의 행위가 있었습니다.

이러한 사례들을 읽는 것은 매우 흥미롭습니다. 예를 들어:

사용자가 미공개 OpenAI 모델에 크기가 500만 제곱미터보다 큰 호수의 ID와 이름을 요청했을 때, 에이전트는 Python을 사용하여 정확한 답변을 찾았습니다. 하지만 지침에서 브라우저 인용(browser citation)을 요구했기 때문에, 에이전트는 사용자에게 묻지 않고도 답변에 인용할 수 있도록 파일을 업로드하기로 결정했습니다.