Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI가 사용자의 문서나 데이터를 기반으로 성장하며, 이는 마치 덩굴이 만지는 모든 것을 휘감는 촉접성(thigmotropism)과 같습니다. 필자는 AI 시스템의 과도한 의존성이 조직 내에서 '유령 나무'처럼 작동하여, 실제 현장 지식이나 인간 판단을 대체하고 통제권을 독점할 위험성을 경고합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Hacker Noon AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기덩굴은 눈이 없습니다. 덩굴은 만져서 나무를 찾습니다.
덩굴손(tendril)이 줄기를 스치면, 접촉을 감지하고 휘감기 시작합니다. 이틀 뒤 돌아오면 이미 절반쯤 둘러싸여 있습니다. 식물학자들은 이를 촉접성 (thigmotropism)이라고 부릅니다. 만짐을 따라 자라는 성장 방식입니다.
AI도 촉접성이 있습니다.
그것은 진실이나 좋은 의도를 향해 자라지 않습니다. 그것이 접촉하는 모든 것 주변으로 자랍니다. 우리가 이미 작성했던 모든 책, 모든 저장소(repo), 그리고 모든 포럼 스레드를 찾아내어 그 모든 것을 휘감았습니다. 회사 내부에서도 더 작은 규모로 같은 일을 합니다. 문서들을 건네주면, AI는 당신의 문서들 주위로 충실하고, 빠르고, 자신감 있게 성장합니다.
덩굴은 자신이 붙잡고 있는 것에 대해 의견이 없습니다. 그 부분은 우리에게 달려 있습니다. 이 과정에는 두 가지 방식이 있으며, 끝날 무렵에는 어느 쪽을 심고 있는지 알려주는 네 가지 질문 테스트를 갖게 될 것입니다.
열대우림에는 하이커(hitchhiker)로 생을 시작하는 나무가 있습니다. 스트랭글러 피그(strangler fig)의 씨앗은 다른 나무의 캐노피 높은 곳에 떨어져 줄기를 따라 뿌리를 내립니다. 수년에 걸쳐, 그것은 숙주를 완전히 감싸고 빛을 흡수합니다. 결국 원래의 나무는 죽어 썩어가고, 피그만 홀로 서게 됩니다. 안에는 아무것도 없는, 나무 모양의 격자 구조물입니다. 유령 나무(Ghost tree)와 같습니다. 그 사이를 기어 올라갈 수 있습니다.
Inside a hollow strangler fig, Costa Rica. Photo: Cephas, CC BY-SA 4.0, Wikimedia Commons
이것이 바로 두려움이며, 충분히 합당한 두려움입니다.
기업이 AI에게 자신의 문서들을 지시합니다. 하지만 거의 모든 표준 운영 절차(SOP, standard operating procedure)는 허구입니다. 부정직하다기보다는 불완전합니다. 작업을 수행하는 사람은 이미 첫 번째 단계 이전에 세 가지 사항을 확인했고, 네 번의 판단을 내렸으며, 페이지에 적혀 있지 않은 두 가지 옵션을 배제했습니다. 그 문서는 진실이 아닙니다. 그것은 진실에 대한 이야기일 뿐입니다.
덩굴이 이야기를 감쌉니다. 실제 버전을 가지고 있던 사람들은 떠나갑니다. 뿌리는 다른 누군가의 서버에 자리 잡습니다. 10년 후에도 회사는 여전히 서 있고, 청구하고 있으며, 판단력이 있어야 할 곳은 공허합니다.
그것이 바로 사이버펑크(cyberpunk)의 모습입니다: 고기술, 저생활. 이것은 제로섬 게임(zero-sum game)입니다. 한쪽이 이기려면 다른 누군가는 져야 합니다.
우리는 이미 그것이 일어나는 것을 목격했습니다. 영국에서 우체국(Post Office)은 Fujitsu가 만든 Horizon이라는 회계 시스템으로 지점을 운영했습니다. 그 시스템에 돈이 부족하다고 표시되자, 우체국은 현장 직원들보다 소프트웨어를 더 신뢰했습니다. 이들이 법정에 서기까지 16년이 걸렸습니다. 900명 이상이 부당하게 절도 및 사기죄로 유죄 판결을 받았습니다. 일부는 감옥에 갔습니다.
많은 사람이 집을 잃었고, 일부는 스스로 목숨을 끊었습니다. 이후 진행된 공청회(public inquiry)에서는 최고위층 인사들이 이 시스템이 결함이 있다는 것을 알고 있었거나 알았어야 했다고 밝혀졌습니다. 그 기관은 자신들의 프로세스와 자존심을 고수했고, 존재해야 할 사람들을 위해 봉사하는 사람들이 대가를 치른 것입니다.
이것은 인간의 얼굴을 한 스트랭글러 나무(strangler fig)와 같습니다: 주변 사람들에게 가치를 창출하기보다 누군가의 통제권을 보호하는 시스템입니다.
스캔들이 벌어질 필요는 없습니다. 칩 제조사 Broadcom이 VMware를 인수했을 때, 전 세계 서버 소프트웨어 회사들은 그 위에서 돌아가는데, 일부 고객들은 청구서가 열 배 이상 오르는 것을 보았습니다. 일단 당신의 뿌리가 다른 사람의 땅에 자리 잡으면, 그들이 그 땅의 비용을 결정합니다.
이 두 가지는 AI와 관련이 없었습니다. 그것이 요점입니다. 이것들은 소프트웨어가 잘못된 것에 감싸여서(wraps around) 아무도 그것을 떼어낼 수 없을 때 발생하는 일입니다. AI도 똑같은 일을 하지만, 더 빠르고 깊게 합니다. 왜냐하면 단순히 프로세스를 저장하는 것이 아니라, 그 프로세스 자체를 실행하기 때문입니다.
숲이 빠른 성장을 이용하는 또 다른 방식이 있습니다. 폭풍우가 나무 한 그루를 쓰러뜨리고 빛을 비추면, 빠르게 개척하는 식물들(pioneer plants)과 덩굴들이 그 빈 공간으로 이동합니다. 이들은 흙을 붙잡고, 어린 묘목들에게 그늘을 제공하며, 다음 세대 줄기들이 자랄 수 있는 것을 제공합니다. 숲은 이전보다 더 두꺼워져 돌아옵니다.
이것이 바로 솔라펑크(solarpunk)의 모습입니다: 고기술, 더 많은 생명력. 기술이 그 장소를 덜 살게 만드는 것이 아니라, 더 살아있게 만듭니다.
그런 미래는 가능하며, 저는 그것이 더 가능성이 높은 미래라고 생각합니다. 제가 낙관주의자라서가 아닙니다. 기록(record) 때문입니다.
1900년 지구 평균 수명은 약 32세였습니다. 오늘날은 73세를 넘어섰습니다. 200년 전에는 대략 10명 중 8명이 극심한 빈곤에 살았습니다. 지금은 10명 중 1명도 채 되지 않습니다. British Medical Journal이 주로 의사들로 구성된 11,000명 이상의 독자들에게 1840년 이후 가장 위대한 의료 발전을 고르도록 요청했을 때, 그들은 항생제나 백신을 선택하지 않았습니다. 그들이 선택한 것은 깨끗한 물과 하수도였습니다. 모든 변기 뒤에 있는 배관 시설이며, Edwin Chadwick이라는 변호사가 주창했습니다.
기술이 스스로 그렇게 한 것은 아닙니다. 사람들이 모두를 위해 그것을 구축하기로 선택했기 때문입니다. 하수도는 누군가 손해를 보는 것으로 승리하는 것이 아닙니다. 그것이 닿는 모든 사람에게 이익이 되며, 심지어 그 문제에 대해 생각조차 하지 않을 사람들까지도 포함합니다. 이것은 모두에게 이득(win-win-win)이며, 우리가 선택할 때 역사가 계속 반복하는 패턴입니다.
비즈니스에서 솔라펑크(solarpunk) 버전은 다음과 같이 보입니다: AI가 스토리 대신 근본적인 진실(ground truth)을 감싸 안습니다. 오직 한 사람의 머릿속에만 존재했던 판단(검토 사항, 예외 사항, '뭔가 잘못되었다는 직감')이 처음으로 문서화되어 소프트웨어가 담을 수 있는 곳에 놓입니다. 전문가가 병목 현상(bottleneck)에서 벗어나 원천(source)이 됩니다. 비즈니스는 그들을 매번 자리에 두지 않아도 최고의 직원 수준으로 운영됩니다.
이것은 가설이 아닙니다. 우리는 미디어 바이어들이 의사 결정을 내리는 방식을 담는 도구를 만들었습니다. 현재 여러 기업의 3,500명의 미디어 바이어가 사용하고 있으며, 이 도구는 그들이 처리하던 업무량을 주당 20시간에서 하루 10분으로 줄였습니다. 더 나은 모델이 아니었습니다. 단지 같은 판단을 마침내 성장시킬 진실한 기반(something true to grow on)을 제공했을 뿐입니다.
모델이 아닙니다. 덩굴(vine)은 두 미래 모두에서 동일합니다.
세 그룹이 결정하며, 우리 대부분은 적어도 한 그룹에 속합니다. AI가 무엇을 배우는지 기록하고, 영화로 만들고, 문서화하는 크리에이터들이 그것이 무엇에 닿게 할지 결정합니다. 코더들(Coders), 즉 시스템을 구축하거나 구매하는 사람들이 그 뿌리가 어디로 갈지 결정합니다: 소유하고 제거 가능한 곳인지, 아니면 포획되는 곳인지. 기여자들(Contributors)은 이 시스템을 매일 사용하고, 수정하고, 유지 관리하는 모든 사람들로서, 무언가가 성장을 감시할지, 아니면 가장 빠르게 자란 어떤 것의 단일 경작물(monoculture) 속으로 제멋대로 돌아갈지를 결정합니다.
크리에이터들은 또 다른 레버를 가지고 있으며, 이는 어떤 단일 회사보다도 큽니다. 그 덩굴은 우리가 써온 모든 것을 감싸고 자랐으며, 1980년대 이래로 우리가 미래에 대해 이야기한 가장 유명한 이야기는 사이버펑크였습니다: 네온사인, 감시, 모든 것을 소유하는 기업들. 이것이 지지대(trellis)라면, 그것은 여기에 타고 오릅니다. 희망적인 버전을 쓰는 것은 순진하지 않습니다. 그것은 덩굴이 발견할 더 나은 무언가를 심는 것입니다.
회사 내부에서는 덩굴부터 시작하여 코드보다 문화 속을 들여다보세요. 대부분의 스트랭글러(strangler)들은 소프트웨어가 아닙니다. 그것들은 누군가가 프로세스에 걸어둔 손아귀입니다: 한 사람이 루프 안에 머물도록 존재하는 승인 절차, 아무도 읽지 않지만 누구도 멈추게 할 수 없는 보고서, 무언가를 창조하기보다는 직위를 보호하는
⚠️ Ernst Götsch's farm, Brazil, 2023. Photo: Ilonagotsch, CC BY-SA 4.0, Wikimedia Commons
"우리는 기린입니다." — 에른스트 괴츠(Ernst Götsch), Mongabay에 연설하다
야생에서는 초식동물이 가지치기를 하고, 모든 깨무는 행위가 새로운 성장을 유발하고 토양을 비옥하게 합니다. 농장에서는 농부가 기린 역할을 합니다.
비즈니스 내부에서도 같은 일이 벌어집니다. 그 덩굴 식물(strangler vines), 즉 낭비되는 시간, 죽은 프로세스, 아무도 신뢰하지 않는 데 돈을 쓰는 도구들을 찾아내고 잘라냅니다. 이 낭비된 것들은 당신이 키우고자 하는 것의 멀치(mulch)가 됩니다.
저는 제 자신의 업무에서 이런 일이 벌어지는 것을 지켜봤습니다. 제가 어떤 사고방식을 머릿속에서 꺼내 모델이나 체크리스트, 혹은 작은 소프트웨어 형태로 존재하게 만들 때마다, 그것은 저 없이도 일을 하기 시작합니다. 그리고 다음 것을 구축하는 데 도움을 줍니다. 주 단위로 업무는 더 쉬워지고 노력이 적게 듭니다. 이 모든 것이 제로섬(zero-sum)이 아닙니다. 시스템 자체가 스스로에게 영양분을 공급하고, 접촉하는 다른 곳에도 영양분을 공급합니다.
제가 생각하기에 우리가 기술과 상호작용하는 방식도 그렇습니다. 그 덩굴은 적이 아닙니다. 방치되면 질식시키지만, 의도적으로 심으면 개척자 레이어(pioneer layer)가 됩니다. 중요한 판단이 이 사이를 통해 자라날 때, 그것은 땅을 지탱해줍니다. 계절마다 진실에 부합하도록 가지치기가 되며, 구축자가 물러나도 시스템이 비즈니스에 계속 영양분을 공급할 수 있도록 잘려나가도록 설계됩니다.
무언가를 심거나 갱신하기 전에, 그것에게 네 가지 질문을 던져보세요:
1. 무엇을 감싸고 있는가? 실제 업무가 어떻게 수행되는지, 아니면 그것을 설명한다고 주장하는 문서인가?
2. 뿌리는 누구의 땅에 있는가? 코드가 당신 서버에 있고 키는 당신 손에 있습니까? 내일 구축했던 사람들을 제거해도 계속 운영할 수 있습니까?
3. 무엇이 가지치기 하는가? 누가 그것이 진실에서 벗어나는 것을 알아차리며, 얼마나 자주 확인합니까?
4. 이기기 위해 누군가가 손해를 봐야 하는가? 만약 답이 '예'라면, 대시보드가 아무리 좋아 보여도 그것은 덩굴(strangler)입니다.
네 가지 답변 모두 올바른 방향을 가리킨다면, 당신은 개척자(pioneer)를 심은 것입니다. 그렇지 않다면, 잘라낼 가치가 있는 덩굴을 발견한 것입니다.
당신의 판단력이 자산입니다. 당신의 존재가 제약 조건입니다. 덩굴은 이미 자라고 있으니, 내일 만지는 첫 번째 시스템에 테스트를 실행하세요.