Dive Brief:

Avalara가 실시한 설문 조사에 따르면, CFO(최고재무책임자) 및 주요 재무 경영진의 92%가 인공지능 (AI) 투자가 적절한 수익을 창출한다는 것을 보여줘야 한다는 압박을 느끼고 있으며, 조직이 도입 속도보다 AI 거버넌스 (AI governance)에 더 집중하고 있다고 답한 비율은 7%에 불과했습니다.

AI 세무 준수 소프트웨어 제공업체인 Avalara는 화요일, 응답자의 44%가 AI 에이전트 (AI agent)의 동작을 감사인이나 규제 기관에 설명할 수 있다는 점에 어느 정도만 확신하고 있으며, 76%는 조직 내에 AI가 어떻게 작동하는지 이해할 수 있는 충분한 내부 전문 지식이 부족하다고 답했다고 밝혔습니다.

Avalara의 부사장 Jayme Fishman은 성명을 통해 "우리가 조사한 거의 모든 리더가 이러한 투자가 성과를 내고 있음을 증명해야 한다는 개인적인 압박을 느끼고 있습니다"라고 말했습니다. "반면, 그들 아래에서 뒷받침되어야 할 통제 장치, 전문 지식 및 책임 체계는 여전히 구축 단계에 있습니다."

Dive Insight:

Gartner에 따르면 전 세계 AI 지출은 2025년 1.76조 달러에서 올해 2.6조 달러로 47% 급증할 것이며, 이는 캐나다와 호주의 국내총생산 (GDP)을 모두 상회하는 수준입니다. 2030년까지 AI 투자는 120% 더 증가하여 5.62조 달러에 달할 전망입니다.

AI 도입을 향한 급격한 흐름은 CFO를 딜레마에 빠뜨립니다. 그들은 낭비적인 지출을 막는 주요 방어선으로서의 역할을 수행해야 하는 동시에, 겉보기에 막대한 수익을 약속하는 AI 프로젝트에 자금을 지원해야 한다는 조직적, 투자자 및 경쟁적 압박에 직면해 있습니다.

Avalara의 CEO Hugo Sarrazin은 성명에서 "나에게 눈에 띈 점은 재무 리더들이 매일 관리하고 있는 긴장 상태입니다"라고 말했습니다. "그들은 신속하게 움직이고, 가치를 증명하며, 핵심 프로세스를 현대화할 것을 요구받는 동시에, 기업이 의존하는 통제 및 거버넌스를 보호해야 하는 상황에 처해 있습니다."

1,505명의 CFO 및 고위 재무 경영진을 대상으로 한 Avalara의 설문 조사 결과, AI 감독이 도입 속도를 따라가지 못하고 있다는 신호로 응답자의 30%가 지난 1년 동안 회사의 내부 통제를 업데이트하지 않았다고 답했습니다.

Avalara에 따르면, 설문 응답자의 절반은 자신들의 AI 에이전트(AI agents)가 측정 가능한 ROI(투자 수익률)를 제한적으로만 창출했다고 답했습니다.

AI 오류에 대한 책임 소재 또한 불분명합니다. Avalara는 응답자의 23%가 사고 발생 시 책임이 아무에게도 없거나 불분명할 것이라고 답했다고 밝혔습니다.

또한, Avalara에 따르면 설문 대상자의 46%는 자신들의 AI 사고 대응 계획(AI incident response plans)이 테스트되지 않았거나 여전히 개발 중이라고 답했으며, AI 에이전트가 의사결정에 도달하는 과정을 보여주는 문서화된 감사 로그(audit logs)를 요구하는 기업은 28%에 불과했습니다.

Sarrazin은 기업들이 검증된 도메인 특화 데이터(domain specific data)를 사용하여 AI 에이전트를 구축 및 운영해야 하며, 의사결정 과정의 투명성(transparency)을 확보해야 한다고 말했습니다.