사람들이 AI에 대해 갖는 7가지 실제 우려 사항

AI는 흥분과 우려가 기묘하게 뒤섞인 상태에 놓여 있습니다. 한편으로는 이미 글쓰기, 분석, 계획 수립을 도우며 일상적인 업무의 일부가 되었습니다. 다른 한편으로는 사람들은 여전히 환각 (hallucinations), 데이터 프라이버시 (data privacy) 위험, 그리고 그것이 자신의 직업에 어떤 의미를 갖게 될지에 대해 이야기합니다. 사람들이 실제로 무엇을 걱정하는지 더 잘 이해하기 위해, 전문 서비스 플랫폼인 Productive는 256명의 에이전시 및 전문 서비스 종사자를 대상으로 이들이 AI 에이전트 (AI agents)를 어떻게 사용하고 인식하는지 조사했습니다. 결과는 명확한 긴장 상태를 보여줍니다. 도입 자체가 문제는 아닙니다. 대부분의 사람들은 이미 어떤 형태로든 AI를 사용하고 있습니다. 하지만 동시에, 많은 이들이 그것이 어떻게 작동하는지, 그리고 어디서 잘못될 수 있는지에 대해 여전히 실질적인 우려를 가지고 있습니다. 이러한 우려 사항은 다양하지만, 일부는 다른 것들보다 더 자주 언급되며 오늘날 사람들이 AI에 대해 생각하는 방식의 공통된 패턴을 보여줍니다.

1. AI는 틀릴 수 있으며, 여전히 검토해야 합니다
   정확성과 신뢰성 (reliability)은 조사에서 가장 흔하게 나타난 우려 사항이었습니다. 사람들은 환각 (hallucinations), 전체 문맥 (context)을 고려하지 못하는 문제, 그리고 누군가가 신뢰하기 전에 여전히 확인이 필요한 결과물들을 지적했습니다. AI가 이미 한동안 널리 사용되어 왔기 때문에, 사람들을 더 신중하게 만드는 것은 아마도 경험일 것입니다. AI가 유용할 때조차 사람들은 여전히 모든 것을 면밀히 검토해야 한다고 느끼며, 이는 그들이 업무를 얼마나 위임할 수 있는지를 제한합니다. 다시 말해, 우려는 단순히 AI가 유용하면서 동시에 불완전할 수 있다는 점뿐만 아니라, 그 결과물을 검증해야 하는 필요성이 사라지지 않는다는 점에 있습니다.

2. 데이터에 어떤 일이 일어나는지 여전히 불분명합니다
   데이터 프라이버시 (data privacy)와 보안 (security)은 여전히 주요 우려 사항이며, 특히 고객 정보, 내부 문서 또는 민감한 금융 데이터를 다루는 업무에서 더욱 그러합니다. 사람들은 AI가 개입된 후 자신의 데이터에 어떤 일이 일어나는지 알고 싶어 하며, 여기에는 어떤 모델 (model)이 이를 처리하는지, 그리고 누가 이에 접근할 수 있는지 등이 포함됩니다. 이것이 기술적으로 들릴 수도 있지만, 이는 해당 도구를 사용하는 것이 안전하다고 느낄지 여부를 결정짓습니다. 이러한 우려는 직장 밖에서도 나타납니다.

Relyance AI가 의뢰한 2025 소비자 신뢰 설문조사(2025 Consumer Trust Survey)에 따르면, 응답자의 82%가 AI에 의한 데이터 통제력 상실(data loss-of-control)을 심각한 개인적 위협으로 간주하고 있으며, 81%는 기업들이 이미 공개되지 않은 AI 학습(AI training)을 위해 자신들의 개인 데이터를 사용하고 있다고 의심하고 있습니다. 또한, AI 도구가 접근해서는 안 될 정보에 접근하거나 이를 노출하는 과도한 권한 부여(over-permissioning)에 대한 우려도 존재합니다. 예를 들어, 해당 연구는 한 응답자의 말을 인용하며, 과도한 권한을 가진 에이전트(agent)가 누군가

AI는 목소리를 평탄하게 만들고 결과물을 일반적(Generic)으로 만들 수 있습니다. AI가 생성한 콘텐츠는 기술적으로는 정확할지라도 모두 비슷하게 느껴지기 시작할 수 있습니다. 많은 사람이 이미 익숙한 패턴들, 즉 유사한 어조, 유사한 문구, 유사한 구조를 눈치채고 있습니다. 시간이 흐르면서 이러한 패턴들은 작업물을 덜 독특하게 만들고 개인의 목소리를 흐릿하게 만듭니다. 이는 창의적인 작업이나 고객을 상대하는 업무에서 더 큰 문제가 되는데, 여기서 일반적인 느낌을 주는 것은 단순한 스타일의 문제가 아니기 때문입니다. 이는 결과물을 덜 사려 깊고, 덜 개인적이며, 무시하기 쉽게 만들 수 있습니다.

6. 고용 안정성에 대한 의문은 사라지지 않았습니다
   고용 안정성은 사람들이 제기하는 첫 번째 우려 사항은 아닐지라도, 여전히 사람들의 마음속에 남아 있습니다. 공포라기보다는 불확실성에 가까운 감정입니다. 역할이 어떻게 변할지, 어떤 책임이 가치를 잃을지, 그리고 이러한 변화가 장기적인 안정성에 무엇을 의미할지에 대한 의문들이 존재합니다. 비록 이 우려는 다른 우려들에 비해 덜 목소리가 높지만, 결코 덜 실재적인 것은 아닙니다. 이는 도입 과정의 배경에 머물며, 사람들이 AI가 어디에 적합한지, 그리고 AI를 어디까지 허용하고 싶은지에 대한 생각을 형성합니다.

7. AI의 윤리적 및 환경적 영향이 실질적인 질문을 던집니다
   일상적인 사용을 넘어, 특히 시니어 역할(Senior roles)을 맡은 사람들 사이에서 더 넓은 범위의 우려가 계속해서 나타나고 있습니다. 사람들은 대규모 AI의 탄소 발자국(Carbon footprint), 학습 뒤에 숨겨진 방법론, 그리고 그들이 받는 결과물을 형성하는 트레이드오프(Trade-offs)에 대해 질문하고 있습니다. 또한 그 밑바탕에는 더 실질적인 긴장감이 존재합니다. 반복적이거나 가치가 낮은 업무를 자동화하는 것이 실제로 가치를 창출하는지, 아니면 결과물을 개선하지 못한 채 노력만을 대체하는 것인지에 대한 의문입니다. 이는 즉각적인 위험의 문제라기보다, 그 방향성 자체가 정당하다고 느껴지는지의 문제입니다.

이러한 우려가 AI 도입에 대해 말해주는 것
사람들은 이미 AI를 사용하고 있습니다. 그 부분은 의문의 여지가 없습니다. 하지만 사용하는 것과 그것을 편안하게 느끼는 것은 별개의 문제입니다. 이러한 우려들을 통해 드러나는 것은 저항이 아니라 불확실성입니다.

AI는 유용하고 종종 인상적이지만, 예측 불가능하고, 완전히 이해하기 어려우며, 때로는 제어하기 힘들기도 합니다. 이러한 혼합된 특성이 사람들을 조심스럽게 만듭니다. 현재로서는 그 긴장 상태가 해결되지 않은 채 남아 있습니다. AI는 사람들이 무엇을 AI에게 맡기는 것을 편안하게 느낄지 결정할 수 있는 속도보다 더 빠르게 일상 업무의 일부가 되고 있습니다. 기술은 워크플로우 (workflow) 속으로 진입하고 있지만, 그에 따른 기대치, 경계, 그리고 신뢰는 여전히 뒤처져 있는 상태입니다.