AI 환각이 국경 및 이민 보호 white paper 의 개정판에 발견됨

국경 및 이민 관리부 (DHA) 는 정책 문서 중 하나인 인공지능 (AI) 을 사용했음을 발견한 정부 기관의 최신 사례입니다.

당부는 목요일에 최근 개정된 핵심 정책 문서와 관련된 두 관료의 정지를 발표했습니다.

목요일 정지된 한 관료는 국적 및 이민 단위의 총책임자이며, 문서 작성에 관여한 관리자의 정지는 새 주 시작 시 발효됩니다.

DHA 는 "기피를 초래함"을 인정하고 incident 을 현대화하는 과정으로 사용한다고 밝혔습니다.

"앞으로 당부는 내부 승인 절차의 일부로 AI 점검 및 선언을 설계하고 구현할 것"이라고 당부는 밝혔습니다.

정책 검토 예정

당부가 발견한 불일치는 국적, 이민 및 난민 보호 white paper 의 개정판에 첨부된 참조 목록과 관련이 있습니다.

이러한 참조는 "환각"으로 간주되었으며, 신뢰할 수 있는 데이터 부족으로 인해 발생하는 오류 또는 가짜 대형 언어 모델 출력의 용어입니다.

"이러한 참조가 문서 작성 후 생성 및 첨부되었음을 알 수 있으며, 본문 텍스트에 인용되지 않았기 때문입니다."

"예방적 정지 조치를 시행하는 것 외에도, 당부는 2022 년 11 월 30 일부터 당부가 생산한 모든 정책 문서를 각각 관리하고 검토하기 위해 두 개의 독립적인 법률 사무소를 임명했습니다,"라고 DHA 는 밝혔습니다.

검토 날짜는 첫 번째 대형 언어 모델 – ChatGPT – 가 공개 사용을 위한 기간이 선택된 것입니다.

정지는 통신 및 디지털 기술부 (DCDT) 의 AI 정책 문서를 강제로 철회한 후 한 주 만에 이루어졌습니다.

DHA 와 마찬가지로, 초안 국가 AI 정책에는 허위 출처 및 인용이 존재했습니다.

"가장 그럴듯한 설명은 AI 생성 인용이 적절한 검증 없이 포함되었음입니다. 이는 발생하지 않아야 합니다,"라고 장관 Solly Malatsi 는 밝혔습니다.

초안 AI 정책은 재작업될 예정이며, DHA 도 문서에 첨부된 참조 목록을 철회했습니다.

다만, DHA 는 시민권, 이민 및 난민에 관한 개정된 정책이