설명 가능성 (Explainability)은 투명성, 사용자 신뢰 및 규정 준수를 지원하기 위해 AI 기반 소프트웨어 시스템에서 점점 더 요구되고 있습니다. 그러나 설명 가능성 요구사항은 종종 임시방편적 (ad hoc)으로 작성되며, 가이드가 없는 대규모 언어 모델 (Large Language Model, LLM) 지원은 모호하거나 일관성이 없거나 불완전한 진술을 생성할 수 있습니다. 본 논문은 설명 가능성 요구사항을 공식화하기 위한 순차적이고 가이드라인 중심적인 워크플로우를 제시하고, 도구 기반의 운영화 (operationalization)를 평가합니다. 우리는 먼저 구조화된 문헌 검토와 개발자 인터뷰를 통해 후보 품질 속성 (quality properties)을 도출했습니다. 그 다음 실무자들을 대상으로 한 온라인 설문 조사 (n=20)를 통해 이러한 속성들의 우선순위를 정하고, 실행 가능한 공식화 지침이 포함된 10가지 핵심 속성의 간결한 가이드라인을 도출했습니다. 이어서, 초안 작성, 속성 기반 점검 및 수정을 포함하는 반복적인 워크플로우를 지원하는 웹 기반 도구에서 해당 가이드라인을 운영화했습니다. 우리는 두 가지 상호 보완적인 연구를 통해 이 워크플로우를 평가했습니다. 요구사항 엔지니어 (n=6)를 대상으로 한 워크숍에서는 도구 지원을 통해 공식화 시간이 평균 23.5% 감소했습니다 (Wilcoxon p=0.021). 소프트웨어 개발자 (n=18)를 대상으로 한 독립적인 온라인 연구에서는 도구 지원을 받은 요구사항과 수동으로 작성된 요구사항이 구현 가능성 및 공식화 품질 측면에서 유사한 평가를 받았으며, 기술적으로 도구 지원 버전에 대해 약간 선호하는 경향이 나타났습니다. 전반적으로, 우리의 결과는 우선순위가 지정된 품질 가이드라인과 경량 LLM 지원을 결합하면, 수동으로 작성된 요구사항과 대등하게 인식되는 요구사항을 생성하면서도 공식화 노력을 줄일 수 있음을 시사합니다.