디자인 + 제품 사고방식: 신규 AI 구현을 위한 뉴욕시의 경로

AI는 유용하고, 신뢰할 수 있으며, 운영 가능한 상태일 때 가치를 제공합니다. 수백만 명에게 영향을 미치는 시 서비스의 경우, 이러한 자질들은 우연히 발생하는 것이 아닙니다. 이는 디자인 사고방식(서비스가 누구를 위한 것인지, 어떻게 사용되는지)과 제품 사고방식(우리가 달성하려는 결과는 무엇이며 시간이 지남에 따라 어떻게 운영할 것인지)을 결합하여 적용함으로써 얻어집니다. 이 글은 NYC의 디지털 및 AI 이니셔티브에 디자이너와 프로덕트 매니저를 고용하는 것이 왜 중요한지 설명하고, 시의 PIT Crew 프로그램을 요약하며, Flamelit이 공공 부문에서 결과 중심의 전달 방식을 어떻게 적용하는지 개괄합니다.

디자인 및 제품 역할이 중요한 이유

디자이너와 프로덕트 매니저는 뚜렷하지만 상호 보완적인 책임을 가지고 있으며, 이는 일반적인 AI 구현 실패를 줄여줍니다:

• 디자이너 (디자인 사고방식): 인간의 필요에 초점을 맞추고, 사용자 흐름을 프로토타이핑하며, 인터페이스와 의사결정 워크플로우가 이해하기 쉽고 접근 가능한지 검증합니다. 그들은 사용성 및 신뢰 문제를 조기에 발견하여, 기술적으로 정확한 모델이 실제로는 사용 불가능해지는 것을 방지합니다.
• 프로덕트 매니저 (제품 사고방식): 측정 가능한 결과(outcome)를 정의하고, 사용 사례에 우선순위를 지정하며, 이해관계자를 정렬하고, 발견 단계부터 지속적인 운영까지 라이프사이클을 관리합니다. 그들은 작업이 단순히 기술적 지표가 아니라 임무 영향도에 따라 평가되도록 보장합니다.

함께 이들은 일반적인 실패를 방지합니다: 아무도 신뢰하지 않는 기술적으로 인상적인 모델 구축, 인간 검토 없이 취약한 시스템 배포, 또는 생산 환경에서 가치가 떨어지는 불분명한 소유권을 가진 기능 출시.

NYC의 PIT Crew 프로그램은 공공 서비스 프로젝트를 위해 제품(product), 엔지니어링(engineering), 디자인 인재를 유치하고 배치하기 위해 설계된 시 차원의 이니셔티브입니다. 이는 공공 부문의 디지털 전환이 사용자 리서치, 제품 관리, 그리고 구현에 숙련된 인력을 필요로 한다는 실질적인 인식에서 비롯되었습니다. PIT Crew와 작동 방식에 대해 더 자세히 알아보려면 여기를 참조하세요: https://www.nyc.gov/content/pitcrew/pages/ (새 탭에서 열기).

PIT Crew와 같은 채용 프로그램은 AI 프로젝트가 개념 증명(proofs-of-concept) 단계에서 신뢰할 수 있는 시 서비스로 이동하는 데 필요한 교차 기능 팀(cross-functional teams)을 만드는 데 도움을 줍니다.

AI 솔루션을 위한 제품 사고방식 (Product thinking for AI solutions)

제품 사고방식은 AI를 발견, 구축, 출시, 운영의 라이프사이클을 가진 '제품'으로 간주합니다. AI에 있어서 이는 단순히 모델을 학습시키는 것 이상을 의미하며—사용자를 정의하고, 수행해야 할 작업(job to be done)을 정의하며, 성공이 어떻게 측정되고 지속될지 정의하는 것을 포함합니다.

핵심 실천 방안:

• 문제 정의: 알고리즘이 아닌 지원이 필요한 의사결정부터 시작합니다.
• 사용자 리서치: 인간 중심의 결과물을 설계하기 위해 워크플로우와 제약 조건을 관찰합니다.
• 우선순위 지정: 사용 사례를 가치, 실현 가능성, 그리고 위험(기술적, 법률적, 운영적)에 따라 순위를 매깁니다.
• 측정 및 모니터링: 영향 지표(예: 처리 시간 단축, 상황별 정확도 향상)와 운영 건강 신호(데이터 드리프트, 지연 시간, 오류율)를 정의합니다.

이러한 실천 방안들은 AI가 실제로 세상의 변화에 노출되었을 때 실패할 가능성을 줄여주어, AI를 작동 가능하고 가치 있게 만듭니다.

공공 서비스에서의 디자인 사고방식 (Design thinking in public services)

인간 중심 디자인은 접근성, 신뢰, 명확성 측면에서 정부에 중요합니다. 공공 서비스 사용자는 스트레스를 받거나 시간이 제한적이거나 디지털 리터러시가 낮은 사람들을 포함합니다. 디자인 사고방식은 AI 결과물이 적절한 신뢰 지표(confidence indicators), 인간 검토 경로(human review paths), 그리고 예외 사항에 대한 명확한 지침과 함께 제시되도록 보장하는 데 도움을 줍니다. 이는 운영 위험을 줄이고 공공의 신뢰를 구축합니다.

디자인이 위험을 줄이는 사례:

• 추천이 왜 이루어졌는지, 그리고 어떻게 이의를 제기할 수 있는지 설명하는 인터페이스.
• 인간 검토자에게 모델 불확실성(model uncertainty)을 노출하는 의사결정 워크플로우.
• 전체 구축 전에 숨겨진 제약 조건(법적, 접근성 등)을 드러내는 프로토타입.

결과 기반 제공 및 Flamelit의 접근 방식

Flamelit은 결과 기반 데이터 과학(outcome-based data science)을 실천합니다. 우리는 기술적 산출물 자체보다는 측정 가능한 공공 부문 성과에 맞춰 발견(discovery), 모델링(modeling), 운영화(operationalization)를 조정합니다. 우리의 일반적인 모델은 다음과 같습니다:

1. 발견 (Discover): 의사결정, 이해관계자, 성공 지표 및 데이터 준비 상태를 명확히 합니다.
2. 모델링 및 구축 (Model & Build): 프로토타입을 개발하고, 사용자들과 반복하며, 맥락 속에서 성능을 검증합니다.
3. 운영화 (Operationalize): 모니터링, 인간 검토, 문서화, 거버넌스(governance)와 함께 배포합니다.

우리는 전략, 엔지니어링, 도입 전반에 걸쳐 컨설팅하며 — 가치, 실현 가능성 및 위험도에 따라 사용 사례를 우선순위화합니다. Flamelit은 건강 데이터, 이민 서비스, 재난 대응을 포함한 공공 및 민간 영역에서 입증된 제공 경험을 가지고 있습니다. AI를 지속적인 제품으로 취급하는 것은 유지보수 부담을 줄이고, 도입률을 개선하며, 임무 성과(mission outcomes)를 보호합니다.

결론

NYC가 공공 서비스에 신뢰할 수 있는 AI를 확장하려면, 디자인 사고방식(design thinking)과 제품 사고방식(product thinking)을 결합한 팀을 배치해야 합니다. PIT Crew와 같은 프로그램은 중요한 단계이며, 디자이너와 프로덕트 매니저를 제공팀에 통합하는 것은 AI 역량을 신뢰할 수 있고 유용한 서비스로 전환시킵니다. Flamelit은 이러한 동일한 관행 — 발견(discovery), 제품 중심의 구축, 운영화(operationalization) — 을 적용하여 기관들이 측정 가능한 성과를 달성하도록 돕습니다.

측정 가능한 공공 부문 성과를 제공하는 제품 및 디자인 관행을 적용하기 위해 Flamelit과 실제 AI 및 데이터 과학 지원에 대해 논의해 보세요.