챗봇이나 AI 모델을 프로덕션 환경에 배포하는 것은 쉽습니다. 하지만 모든 사용자에게 공평하게 대우하는지, 응답 내용을 설명할 수 있는지, 오류가 발생했을 때 누군가 이를 막을 수 있는지는 더 어렵습니다. 이러한 질문들은 추상적인 윤리 문제가 아닙니다. 데이터베이스를 선택하거나 네트워크 스키마를 결정하는 것과 같은 설계상의 결정입니다.
AWS는 이러한 질문들을 책임감 있는 AI의 차원(dimensiones)이라는 세트로 정리했습니다. 본문에서는 일상적인 예시와 이를 적용하는 데 도움이 되는 AWS 도구들과 함께 이 차원들을 하나씩 검토하겠습니다. 이 프레임워크는 AWS 공식 책임감 있는 AI 페이지에서 가져온 것입니다. 예시는 제가 만든 것입니다.
AWS에 따른 책임감 있는 AI의 8가지 차원
AWS는 기술이 발전함에 따라 평가하고 업데이트하는 기본적인 차원들의 세트로 책임감 있는 AI를 정의합니다. 현재는 8가지입니다. 예시를 위해 생성형 AI(generative AI)를 사용하는 온라인 상점의 지원 도우미를 상상해 보세요.
- 공정성 (Equidad): 다양한 이해관계자 그룹에 미치는 영향을 고려해야 합니다. 예시: 비서가 서로 다른 언어나 고객 프로필에서 동일한 품질로 응답하는지 검토합니다.
- 설명 가능성 (Capacidad de explicación): 시스템의 결과를 이해하고 평가할 수 있어야 합니다. 예시: 모델이 환불 거부를 권장하는 경우, 어떤 요인들이 영향을 미쳤는지 팀이 확인할 수 있습니다.
- 개인정보 보호 및 보안 (Privacidad y seguridad): 데이터와 모델을 적절하게 획득하고 사용하며 보호해야 합니다. 예시: 불필요한 개인 데이터를 프롬프트에 전송하지 않고, 학습 데이터와 기록을 암호화합니다.
- 안전성 (Seguridad): 시스템의 손상되거나 오용되는 결과를 방지해야 합니다. 여기서는 모델 출력이 야기할 수 있는 피해를 다루며, 이전 차원의 데이터 보호와는 별개입니다. 예시: 비서가 불쾌한 콘텐츠를 생성하거나 범위를 벗어난 조언을 제공하지 않도록 합니다.
- 제어 가능성 (Capacidad de control): AI 시스템의 행동을 감독하고 방향을 제시할 수 있는 메커니즘을 갖추어야 합니다. 예시: 기능을 비활성화하는 스위치와 고액 환불을 승인하는 담당자입니다.
- 진실성 및 견고성 (Veracidad y solidez): 예상치 못하거나 모순되는 정보가 있더라도 정확한 결과를 도출해야 합니다. 예시: 고객이 오타를 내거나 모호한 질문을 할 때, 비서가 임의로 반품 정책을 꾸며내지 않도록 합니다.
- 거버넌스 (Gobernanza): 공급망 전반(공급업체 및 구현자 포함)에 걸쳐 권장되는 관행을 통합해야 합니다. 예시: 어떤 모델을 사용했는지, 누가 승인했는지, 그리고 공급업체가 명시하는 제한 사항이 무엇인지 문서화합니다.
- 투명성 (Transparencia): 이해관계자가 AI 시스템과의 상호작용에 대해 정보에 입각한 결정을 내릴 수 있도록 해야 합니다. 예시: 사용자에게 자신이 AI와 대화하고 있다는 사실과, 이 AI가 무엇을 할 수 있고 무엇을 할 수 없는지 알려줍니다.
AWS는 이러한 차원들을 모든 AI 시스템에 존재하는 기술적 속성으로 제시합니다. 사용자는 자신의 사용 사례(use case)에 따라 신중한 설계 결정을 내려야 합니다. 영화 추천 도우미와 의료 결정 지원 시스템은 각 차원에서 동일한 수준의 통제를 필요로 하지는 않습니다.
적용에 도움을 주는 AWS 도구들
AWS 페이지에서는 이 도구들을 다섯 가지 영역으로 그룹화했습니다: 보호 조치, 모델 평가, 편향성 및 설명 가능성, 인간 개입, 그리고 거버넌스입니다. '관련 차원' 열은 독자님께 안내하기 위한 저의 개인적인 해석이므로 공식 프레임워크의 일부가 아닙니다.
| 도구 | AWS에 따른 기능 | 관련 차원 |
|---|
| Amazon Bedrock 보호 장치 (Guardrails) | 텍스트 및 이미지의 유해 콘텐츠를 필터링하고, 기밀 정보를 숨기며, 환각(hallucination)을 감지하기 위한 보안 조치를 설정할 수 있게 합니다. | 보안, 개인정보 및 보안, 진실성 및 견고성 |
| ... | | |
| | | |
팀의 속도를 늦추지 않으면서 시작하는 방법
AWS는 책임감 있는 AI를 첫날부터 그리고 전체 수명 주기(life cycle)에 걸쳐 통합할 것을 권장합니다. 또한, AWS Well-Architected 관점은 설계, 개발 및 운영을 위한 모범 사례를 제공합니다. 제가 제안하는 간단한 과정은 다음과 같습니다:
- 사용 사례와 그 결과로 영향을 받을 수 있는 사람들을 설명합니다.
- 8가지 차원을 검토하고 각 차원에 대해 주요 위험과 취할 설계 결정을 기록합니다.
- 후보 모델을 선택하기 전에 자체 테스트 케이스로 평가합니다.
- 구성 가능한 보호 장치를 추가하고 사람이 개입하는 지점을 정의합니다.
- 운영 환경에서 모니터링하며, 모델, 데이터 또는 사용 사례가 변경될 때마다 이 표를 검토합니다.
이번 주에는 이미 운영 중인 AI 시스템을 하나 선택하고, 차원별로 하나의 항목이 있는 8개 행의 표를 작성하세요. 이 표에는 위험(risk), 현재 조치(current measure), 그리고 책임자(responsible party)가 포함되어야 합니다. 비어 있는 행들은 어디서부터 시작해야 할지 알려줄 것입니다.
