대규모 언어 모델 (LLMs) 및 에이전트형 (agentic) AI 시스템은 자연어 작업에서 기술적 영역에서 계획, 검색 및 행동하기 위해 외부 도구를 사용하는 방향으로 진화해 왔습니다. 스마트 그리드 분야에서 최근 연구들은 신뢰할 수 있는 솔버 (solver)를 언어 인터페이스 뒤에 배치하고 다단계 워크플로를 오케스트레이션함으로써, 예측, 최적화 및 제어에 에이전트형 체계를 적용하고 있습니다. 기존 문헌에는 이러한 시스템을 설계하고 평가하기 위한 통일된 접근 방식이 부족합니다. LLMs는 수치적으로는 그럴듯하지만 물리적으로는 실행 불가능한 출력을 생성할 수 있고, 평가 프로토콜은 작업마다 다르며, 모델이 계산해야 하는 것과 계산하지 말아야 하는 것 사이의 경계가 암시적입니다. 본 논문은 솔버 기반 (solver-grounded) 설계 원칙을 제시합니다: 수치 결과는 신뢰할 수 있는 도구에서 생성되고 명시적인 검증을 통과했을 때만 보고됩니다. 우리는 전력 시스템을 위한 LLM 및 에이전트형 AI 시스템의 구성 요소인 프롬프팅 전략 (prompting strategies)과 에이전트형 아키텍처 (agentic architectures)를 검토합니다. 우리는 이 원칙을 풍력 발전 예측, EV 충전 스케줄링, 조류 계산 (power flow analysis), 그리고 사고 진단 (contingency diagnosis)이라는 네 가지 사례 연구에 적용하여, 동일한 데이터와 지표를 바탕으로 LLM 전용 베이스라인과 솔버 기반 대응 모델을 비교합니다. EVAgent는 CVXPY 최적값을 재현하는 동시에 LLM 전용 모델의 미충족 에너지를 7.5~9.5배 감소시켰으며, GridDebugAgent는 39개의 사고 사례 중 17개를 복구하는 동시에 총 위반 사항을 52.3% 줄였습니다. 우리는 작업 유용성 (task utility), 솔버 기반 정확성 (solver-grounded correctness), 충실도 및 안전한 실패 (faithfulness and safe failure), 그리고 비용 및 지연 시간 (cost and latency)을 아우르는 4개 그룹 평가 프레임워크를 제안합니다. 일관된 역할 분담이 나타납니다: 에이전트형 시스템은 신뢰할 수 있게 오케스트레이션, 검색 및 설명을 수행하는 반면, 신뢰할 수 있는 도구는 계산을 수행하고 검증 게이트 (verification gate)가 무엇을 보고할지 결정합니다.