이것은 파이프가 아니다: 의미론적 추상화로서의 AI 시스템
요약
본 글은 AI 시스템의 출력물이 사실 자체가 아닌 공학적 표현임을 지적하며, 이를 검토할 의미론적 프레임워크를 제안합니다. 이 프레임워크는 도메인 지식 기반, 참조 출처, 그리고 시스템 사용 가능 지식을 구분하여 AI의 주장과 행동을 평가하는 기준을 제시합니다.
핵심 포인트
- AI 출력물은 사실이 아닌 공학적 표현으로 간주해야 합니다.
- 제안된 프레임워크는 도메인 지식, 출처, 사용 가능 지식을 구분합니다.
- 외삽, 근거 없는 주장 등 AI의 일반적인 실패 사례를 정의할 수 있습니다.
AI 시스템의 출력물은 그것이 설명하는 사실이나 세계 상태 그 자체가 아니라, 공학적으로 설계된 표현입니다. 우리는 이러한 표현의 정확성을 검토할 수 있도록 AI 시스템을 기술하기 위한 의미론적 프레임워크를 제안합니다. 이를 위해, 우리가 받아들이는 도메인 지식으로 정당화되는 것, 참조 출처가 말하는 것, 그리고 시스템이 현재 사용할 수 있는 것을 구별합니다. 이는 다음과 같은 일반적인 실패에 정확한 정의를 내릴 수 있게 합니다: 외삽(extrapolation), 반박되거나 근거 없는 주장(refuted or unsupported assertion), 출처와 지식의 불일치(sources versus knowledge mismatch), 오래되었거나 반박된 출처(stale or refuted source), 추가 가설, 근거 없는 사용 등... 저희는 이 프레임워크가 출력물, 인용, 도구 호출, 그리고 세계를 변화시키는 행동이 겉보기의 유창성보다는 신뢰할 수 있는 주장과 명시적인 권위에 의해 정당화되어야 하는 AI 시스템을 지정하고 검사하는 데 유용한 어휘를 제공하기를 바랍니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 arXiv cs.PL (Programming Languages)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기