만약 AI 학습 앱이 대화가 끝날 때 레슨을 완료 처리한다면, 그 완료 기록은 학습자가 무엇을 설명하거나 적용할 수 있는지에 대해 매우 적은 정보를 제공합니다.
유용한 대안은 안내된 연습(guided practice)과 독립적인 평가(independent assessment)를 별개의 활동으로 모델링하는 것입니다. 학습자의 첫 시도, 받은 도움, 그리고 후속 검토가 구별되도록 유지해야 합니다. 이렇게 하면 검토자가 어시스턴트의 신뢰도를 역량 점수로 취급하지 않고도 검사할 수 있는 구체적인 자료를 얻게 됩니다.
이 디자인은 OpenAI의 10월 15일 기사, “학생들에게 질문을 통해 생각하고 배우도록 가르치기”에서 영감을 받았습니다. 이 기사의 교실 예시에서는 학생들이 Study Mode를 사용하여 증발(evaporation)에 대해 탐구한 다음, 대화 내용을 참조하지 않고 설명과 토론 질문을 작성하도록 합니다. 선생님은 이러한 응답을 사용하여 재검토해야 할 부분을 파악합니다.
OpenAI는 또한 교사들이 익숙한 주제부터 먼저 시도하고 그 질문과 설명이 자신의 학급에 적합한지 평가해 볼 것을 제안합니다. 이 기사는 직장 교육 애플리케이션의 효과성을 확립하지는 않습니다. 다음은 그러한 연습을 기반으로 한 제안된 소프트웨어 디자인이며, 기록이 무엇을 증명할 수 있는지 명시적인 제한 사항을 가지고 있습니다.
관찰 가능한 결정부터 시작하기
채팅 인터페이스를 구축하기 전에 작은 학습 목표(learning target)를 정의합니다. 가상의 내부 지원 과정의 경우, 목표는 다음과 같을 수 있습니다: “승인된 지원 가이드를 사용하여 계정 접근 예외에 대해 어떤 팀이 검토해야 하는지 식별한다.”
이 연습에는 참조 버전(reference version), 검토자가 승인한 사례(reviewer-approved case), 그리고 예상되는 추론(expected reasoning)이 필요합니다. 모델에게 조직의 정책을 지어내거나 같은 대화 중에 생성된 표준에 따라 채점하도록 요청하는 것은 피해야 합니다.
참조 버전과 사례 버전을 시도 기록에 첨부하여 유지해야 합니다. 나중에 정책이 변경되더라도, 검토자는 학습자에게 어떤 버전이 제공되었는지 볼 수 있어야 합니다. 버전 식별자(version identifier)는 시스템이 실제로 보존하는 콘텐츠를 가리킬 때만 유용합니다.
애플리케이션 내 단계 분리하기
작은 상태 모델(state model)만으로 충분합니다:
| 단계 | 학습자 경험 | 기록 |
|---|
| 안내된 연습 (Guided practice) | 질문에 답하고, 힌트를 요청하며, 설명을 읽기 | 연습 사례 및 지원 이벤트 |
| ... | | |
독립적인 사례(independent case)는 연습 사례와 한 가지 의미 있는 조건에서 달라야 합니다. 가상의 지원 과정(support course)의 경우, 연습 사례에는 필요한 모든 신원 증명 자료가 있을 수 있습니다. 두 번째 사례에는 누락된 증거와 긴급 요청이 있을 수 있습니다. 승인된 안내자(approved guide)는 다음에 무슨 일이 일어날지 결정합니다. 긴급성은 임의로 만들어낸 예외가 되어서는 안 됩니다.
독립적인 사례를 연습 기록이나 생성된 힌트 없이 별도의 화면에 보여주세요. 학습자가 시작하기 전에 그 짧은 시도(attempt)의 목적을 설명해야 합니다. 만약 도움을 요청하면, 명시적인 행동을 통해 제공하고 그 시도가 지원받게 되었음을 기록해야 합니다.
애플리케이션에서 기록(transcript)을 숨기는 것이 학습자가 다른 리소스를 전혀 사용하지 않았다는 것을 증명하지는 않습니다. 애플리케이션이 어떤 조건을 제공했고, 어떤 지원을 관찰했는지 보고하세요. 이것을 안전한 시험 시스템(secure examination system)처럼 묘사하는 것은 피해야 합니다.
첫 번째 답변 보존하기
다음은 플랫폼 API나 완전한 프로덕션 스키마가 아닌 예시 기록입니다:
{
"attempt_id": "attempt-101",
"exercise_version": "support-routing-v3",
...
학습자가 수정할 경우, 원래의 답변에 연결된 새로운 답변 기록을 생성하세요. 초기 설명을 덮어쓰지 말고, 그리고 수정된 답변을 지원받지 않은 성과(unaided performance)로 보고하지 마세요.
마찬가지로, 지원 이벤트(assistance event)를 답변 내용과 분리하여 유지해야 합니다. 이벤트는 힌트가 요청되었는지, 언제 제공되었는지, 그리고 어떤 시도에 속했는지를 기록할 수 있습니다. 조직의 데이터 정책 하에서 필요한 콘텐츠만 보관하세요. 이러한 기록은 학습 검토용이지, 관련 없는 직원 활동을 수집하는 구실이 되어서는 안 됩니다.
전환 과정 애플리케이션 제어 하에 유지하기
애플리케이션은 각 단계에서 어떤 액션이 사용 가능한지 결정해야 합니다. 학습자의 답변이나 붙여넣은 참고 자료는 데이터일 뿐이며, 시도 검토 표시를 하거나 기록된 도움 상태를 변경할 수는 없어야 합니다.
만약 피드백을 제안하기 위해 모델을 사용한다면, 해당 피드백을 '검토 대기 중인 제안'으로 저장해야 합니다. 이 디자인에서는 자격을 갖춘 검토자가 역량 결정을 내립니다. 이러한 구분은 인터페이스에서 눈에 띄어야 하며, 상태 변경이 허용되는 모든 곳에서 강제되어야 합니다.
제출 처리는 예측 가능하게 유지해야 합니다. 동일한 시도에 대해 반복적으로 제출하는 경우, 여러 개의 초기 답변을 생성하기보다는 기존 결과를 반환해야 합니다. 확인 화면을 보여주기 전에 답변을 영구 저장(persist)해야 합니다. 응답이 손실된 경우, 클라이언트는 기록된 시도를 검색하여 실제 상태를 표시할 수 있어야 합니다.
이것들은 Study Mode가 내부적으로 어떻게 작동하는지에 대한 주장(claims)이 아니라 구현 권장 사항입니다.
검토 추론, 증거 및 경계
답변이 적용 가능한 규칙을 식별했는지, 관련 증거를 인용했는지, 변경된 조건을 알아차렸는지, 그리고 해결되지 않은 질문이나 검토가 필요한 부분이 있는지 묻는 간결한 루브릭(rubric)을 사용하세요.
특정 불확실성을 인정하는 답변은 유용한 학습 격차를 드러낼 수 있습니다. 소통이 원활하게 들리더라도 주체나 예외를 지어내는 답변은 다른 피드백을 받을 자격이 있으므로 주의해야 합니다.
모든 것을 단일한 모델 생성 점수로 압축하는 것을 피하세요. 검토자의 발견 사항을 기준별로, 그리고 각 수정에 대한 근거가 되는 참고 자료와 함께 저장해야 합니다. 그러면 나중에 온 검토자는 학습자에게 왜 다시 연습하도록 요청했는지 이해할 수 있습니다.
몇 가지 의미 있는 사례를 통해 동작 확인하기
앱을 파일럿(pilot) 하기 전에, 다음 상황들을 점검하세요:
독립 단계에서 힌트 요청은 답변이 평가되기 전에 도움 기록을 변경합니다.
답변 수정은 초기 시도를 보존하고 그에 연결합니다.
반복 제출은 하나의 초기 답변 기록을 만듭니다.
답변 내부의 텍스트는 검토 상태나 참조 버전을 변경할 수 없습니다.
피드백은 잘못된 결정과 사례를 해결하지 못한 참조를 구별합니다.
하나의 승인된 연습으로 시작하여 지식이 풍부한 리뷰어와 함께 결과 기록을 검사해 보세요. 솔직하게 보고할 수 있는 초기 결과는 학습자가 관찰된 조건 하에서 설명한 내용, 요청한 도움, 그리고 피드백 후에 변경된 내용을 포함합니다.
이는 다음 연습을 결정하는 데 유용한 증거가 됩니다. 지속적인 역량을 확립하려면 한 번의 상호작용만으로는 부족하며, 특히 실제 과제가 의미 있는 결과를 가질 때는 더욱 그렇습니다.