누구도 섬이 아니다 - AI가 지적 공동체를 해체할 때

AI 덕분에 소프트웨어를 어떻게 구현할지 덜 고민하게 됐다면, 절약한 시간을 어디에 쓸지는 자유임. 꼭 소프트웨어에 매달릴 필요 없이 영화나 책을 보거나 전기양의 꿈을 꿔도 됨.
AI 때문에 공동체를 잃었다고 느낀다면 같은 욕구를 채워 줄 다른 공동체를 찾아도 됨. 개인적으로는 기술적 세부 사항보다 소프트웨어 설계에 집중할 수 있게 됐고, 설계 분야 동료들과 그 어느 때보다 강한 유대감을 느끼고 있음.
경제학적으로 보면 시간을 이미 들인 노력에 묶어 둘 게 아니라 기회비용으로 봐야 함. 지금 이 시간에 할 수 있는 차선의 활동은 무엇인지 물어야 함.

제목이 인용한 John Donne의 명상록은 누구도 홀로 완결된 섬이 아니며, 모두가 대륙의 일부라는 내용임. 바다가 흙덩이 하나만 쓸어 가도 유럽이 작아지듯, 누구의 죽음이든 인류의 일부인 나를 작아지게 함. 그러니 누구를 위해 종이 울리는지 묻지 말아야 함. 그 종은 바로 그대를 위해 울림.
고등학교 때 외웠고 지금도 가장 좋아하는 글 중 하나임. 400년이 넘었는데도 여전히 유효함.

Robert Frost의 「The Tuft of Flowers」 를 읽으면 늘 Donne의 글이 떠오름.
먼저 풀을 베고 떠난 사람 뒤에서 혼자 일하던 화자는, 나비를 따라가다 그 사람이 베지 않고 남겨 둔 꽃 무더기를 발견함. 누군가에게 보여 주려고 남긴 게 아니라 아침의 기쁨 속에서 꽃을 아꼈다는 사실에, 만나지도 못한 사람과 동질감을 느끼고 더는 혼자 일한다고 여기지 않게 됨. 마지막에는 함께 일하든 떨어져 일하든 인간은 함께 일하는 존재라고 마음속으로 전함.

Hemingway도 『누구를 위하여 종은 울리나』 에 끝에서 두 번째 구절을 빌려 썼음. 나도 예전에 외워야 했는데, 지금도 어디선가 이 글을 만나면 멈춰서 읽게 됨.

마지막 두 문장만 알고 있어서 의미를 완전히 오해하고 있었음. 불길한 징조 같은 경고인 줄 알았는데, 전체를 보니 오히려 도(道) 에 더 가까운 듯함.

인터넷에는 최신 프롬프트 기법을 끝없이 띄우는 AI 만능론자와, AI로 사진 한 번 만들었다고 하면 잡아먹을 듯한 반대론자가 가득함. 하지만 동료들과 조용히 이야기해 보면 AI가 업무에 무척 유용하면서도 일이 예전보다 훨씬 덜 흥미로워졌다고 느끼는 층이 따로 존재함.
프로그래밍 자체의 재미가 사라진 것만으로는 설명하기 어려운 감정도 있음. 해고 때문인지, 회사들의 불안한 수익 구조 때문인지, 직업의 미래가 불확실해서인지 고민해 봤음. 저자가 말한 지적 공동체의 부재가 적어도 일부는 잘 짚어 주는 듯함.

최근 기술적인 질문을 글로 쓰다가 바로 그런 감정을 느꼈음. 예전 같으면 HN이나 Stack Overflow에 올려 답을 얻고, 같은 질문을 가진 다른 사람에게 자료를 남기고, 흥미로운 토론까지 이어졌을 수 있음.
지금은 AI에 물으면 즉시 해결되지만, 그 뒤에는 아무것도 남지 않음.

직접 얻거나 만드는 데서 만족을 느끼는 사람도 있고, 어디서 가져왔든 상관하지 않는 사람도 있음. 나는 시험에서 부정행위를 하지 않았지만 주변에는 그런 아이들이 많았고, 그들은 제대로 해냈을 때의 만족감을 모르니 지름길을 택하는 데 거리낌이 없었음.
문명 전체가 그런 사고방식에 빠지면 책임감의 실종과 지적 붕괴로 이어짐.

해고와 경력 전망의 불안이 대부분을 차지한다고 봄. 닷컴 붕괴 때도 파산과 해고가 이어졌고, 기술주가 폭락한 뒤 정체됐으며, 몇 달씩 일자리를 못 찾는 사람이 많았음. 업계 전체가 침울했고 소프트웨어 분야에 들어갈 가치가 없어졌다는 평론도 나왔음.
지금의 불안은 매우 익숙함. 직업 전망이 좋았다면 AI 때문에 이만큼 괴로워하지는 않았을 것임.

더 단순한 일일 수도 있음. 지금 자동화의 대상이 된 기술직이 과거 광부나 인간 계산원이 느꼈던 감정을 그럴듯한 말로 표현하는 것에 가까움. 여기에 이 집단 다수가 겪는 사회성의 어려움까지 겹치니, 좁은 전문 분야 밖으로 나가 취미를 가지라는 제안이 터무니없게 느껴지는 이유도 이해됨.

인터넷 공론장의 중간층이 비어 가고 있음. 정치뿐 아니라 각 주제의 열성 낙관론자와 비관론자가 끊임없이 글을 올리고, 공동체나 현실이 자기 생각과 맞는지는 별로 신경 쓰지 않음. 나머지는 눈을 굴리며 떠나고, 단체 채팅이나 모임에서만 그들을 비웃을 뿐 공개적으로 반박하지 않게 됨.
어떻게 해야 할지는 모르겠음. 2000년대 말~2010년대 초 SaaS 붐 때는 열성 지지자들 외에도 신중한 낙관론자와 비관론자 블로거들이 있었는데, 이제 그 중간이 사라짐.

한때 iOS 앱을 만드는 장인정신에 큰 애착이 있었지만 AI가 그 감각을 무너뜨렸음. 솜씨와 안목이 여전히 차별점이기는 해도, 오후 한나절이면 80%까지 갈 수 있는 상황에서 몇 주에 걸쳐 완벽하게 만드는 만족감은 훨씬 줄어듦.
지속적이고 복잡한 개인의 지적 활동에는 재료와 동기를 공급하는 외부 공동체가 필요하고, 그 활동이 다시 공동체를 지탱한다는 대목에 공감함. 훌륭한 예술도 그런 문화적 토양에서 나옴. 음악 역시 혼자 만드는 게 아니라 다른 사람의 연주를 듣고 보고 함께 연주한 경험이 쌓여 새로운 무언가가 됨.
코딩에서 멀어질 무렵 음악에 더 깊이 빠졌는데, 혼자였다면 오래가지 못했을 것임. 현실에서 함께 연주하고 자극을 주고받는 사람이 있으니 100배쯤 더 즐겁고 오래 지속할 수 있음. 비슷하게 느낀다면 글쓰기, 그림, 목공처럼 더 인간적인 활동으로 창작 에너지를 돌려 보길 권함. 기계가 대량생산할 수 있어도 사람이 만드는 것에는 계속 가치와 대가가 따를 것이라고 봄.

부모님 집 뒷마당을 정비하고 있음. 수십 년 쌓인 잡동사니를 치우고, 멀칭과 자생식물, 사람과 작은 동물들이 살아갈 공간을 구상하면서 많이 배우는 중임. 몸을 쓰는 창작 활동으로 에너지를 돌리기에 아주 좋음.
여기에 덧붙이면 AI는 이미 벌어진 최악의 복합 위기 위에 얹힌 천 톤짜리 체리 같음. 코로나가 직업 공동체를 무너뜨렸고, 일터는 2020년 이전으로 돌아가지 않을 것임. AI는 그 모든 것을 더 기묘하게 만들고 있어 인간으로서 감당하기 어려움.

열 살 때 도서관에서 Byte를 읽던 시절부터 30년 넘게 소프트웨어 개발 기술에 몰두해 왔음. 이제 그 시대가 지나간 듯해서, 소프트웨어 제작에 LLM을 받아들였으면서도 상실감을 느끼고 있음.
하지만 음악 같은 활동에는 LLM을 쓰지 않겠음. 예술은 인간 공동체와 문화의 것이며, 정교한 통계 엔진이 끼어들 자리는 없다고 봄. 생계는 아니더라도 안식처는 그곳에서 계속 찾게 될 듯함.

음악적으로 잘 맞던 밴드에서 활동할 때, 나도 모르게 더 많고 더 좋은 곡을 쓰게 됐고 밴드에 어울리는 음악을 만들게 됐음. 사회적 관계가 사고의 방향을 자동으로 바꾸기도 함. 자신을 풍요롭게 해 주는 환경이 없으면 마음이 길을 잃을 수도 있음.

AI는 어쩐지 내 생애 가장 흥미롭지 않은 기술처럼 느껴짐. 지지자는 AI로 AI 도구를 만든 이야기를 AI로 쓰고, 반대자는 AI가 우리 모두를 어떻게 할지 떠들며 때로는 그 글조차 AI로 씀.
새 기능이나 자율 작업 연구를 들고 와도 구체적으로 어떻게 작동했는지 물으면 정작 깊이 들여다보지 않았다고 함. AI에 별 관심이 없다는 결론에 이르렀다면 더더욱 외로워지는 분위기임.

놀라울 정도로 흥미가 안 생기는데도 머릿속을 너무 많이 차지해서 화가 남. 원래라면 엄청나게 신나는 기술이어야 하니, 내가 연결되고 활용하며 살아남을 만한 흥미로운 부분을 찾으려 하지만 모든 즐거움을 집어삼키는 불길하고 무색무취한 덩어리처럼 느껴짐.
누군가 AI로 Prince of Persia를 다시 만들었다는 걸 봤을 때 감정이 분명해졌음. 좋은 것 하나쯤은 제발 더럽히지 않고 놔두면 안 되겠냐고 소리치고 싶었음.

Google보다 나은 검색 도구이자 내 속도에 맞춰 가르쳐 주는 교사 역할만 해도 최근 나온 기술 중 가장 흥미로울 것임. 그 밖의 기능까지 한다는 사실은 이 짧은 시간 안에 받아들이기조차 벅참.

AI 자체에는 별 관심이 없지만 내가 신경 쓰는 일을 훨씬 쉽게 만들어 줌. 개발 업무에서는 에이전트가 쓸 만해지면서 사실상 6개월 만에 조직이 10배 커진 상황에서, 어떻게 건전한 소프트웨어를 계속 출시할지 고민하는 역할로 바뀌었고 꽤 재미있음.
아이가 태어난 뒤 가계 예산과 재무 전망에도 관심이 큰데, 서툰 스프레드시트 조작을 AI에 맡기니 생각에 집중할 수 있음. 팀 관리에서도 기본적인 티켓 생성, 대화에서 작업 추출, 완료 알림 등을 맡겨서 반복 업무를 줄이는 데 큰 도움이 됨.

지금은 어느 때보다 즐거움과 함께 공유할 의미 있는 현실을 지키기 위해 애써야 하는 듯함. 깨달음은 집단적인 활동이라는 생각으로 다시 돌아오게 됨.

머신러닝 석사를 하던 10년 전에는 AI가 무척 흥미로웠음. 집에서도 꽤 괜찮은 모델을 만들 수 있었고, 대학의 클러스터로 최고 성능 모델을 학습시킬 수도 있었으며, 매년 획기적인 신경망 구조가 나오는 듯했음.
이제 개발은 거대 기술기업 연구소에서 이뤄지고 외부에 공개하기도 어려우며, 나머지는 API로 조금씩 커지는 LLM을 이용하는 데 머물게 됨. 접근성과 영향력이 커진 것은 좋지만 AI 자체는 몹시 지루해짐. 여전히 혁신적인 일을 하는 사람이 있고 모든 기술이 영원히 새로울 필요는 없지만, 관련 이야기를 피할 수조차 없으니 더 강하게 느끼게 됨.

컴파일러·타입 시스템·논리 대신 프롬프트와 에이전트 실행 환경 이야기만 반복되는 데 대한 답답함에는 공감함. 하지만 인간이 코드를 읽고 쓰지 않으니 프로그래밍 언어가 무의미해졌다는 데는 동의하지 않음.
원래 그런 주제에 관심 없던 사람은 앞으로도 관심이 없겠지만, 나는 오히려 더 많이 고민하게 됨. 이런 시스템을 에이전트의 탐색 공간을 정의하는 수단으로 보기 때문임. 미래에는 에이전트의 잠재 표현을 구조화하는 도구가 될 수도 있음.
인간을 위한 언어라는 관점에서 벗어나 프로그래밍 언어와 컴파일러를 탐색 공간 제어 도구로 보면 새로운 가능성이 열림. 가치 있는 접근인지는 아직 모르지만 시도해서 확인해 봐야 함.

에이전트로 개발하는 개인 프로젝트와 아이디어를 내적 동기로 추구하고 있음. 아이디어 자체가 재미있으니 다른 사람이 흥미를 느끼거나 발견하는지는 크게 신경 쓰지 않음.
갑자기 2,000% 효율로 이것저것 만들어 보고 공유할 수 있게 된 느낌임. 다른 사람까지 흥미롭게 봐 준다면 그것도 좋은 일임.

며칠 전 OpenAI 논문이 나오기 직전, 수학자들의 견해에 답하며 비슷한 주제로 글을 썼음. https://creating.software/essays/ai-and-math/.
우리는 지적 활동은 공동체적이면서도, 그 공동체는 개인의 성취를 인정하는 데 힘입어 유지된다는 사실을 동시에 깨닫고 있는 듯함. 인류는 이런 인간 공동체 없이는 발전할 수 없다고 봄. AI가 더 잘 아는 주제라도 사람들이 학습을 포기하지 않아야 하는 이유임.
순진한 희망일 수 있지만 체스처럼 재미와 대회, 상, 지도자를 통해 활동이 이어지길 바람. 컴퓨터가 훨씬 강해진 뒤에도 인간의 체스 공동체와 성취 인정은 살아남았고, 인간과 엔진 모두 크게 발전함. 오늘날 Stockfish는 1994년 데스크톱에서도 1997년 Kasparov를 이길 수 있다고 함. https://www.lesswrong.com/posts/4MLBK7iCW3vYd93Mn/a-closer-l....
수학 올림피아드와 프로그래밍 대회도 실용성이 사라진 뒤까지 오래 이어질 수 있음. 나는 원래 그런 대회를 좋아했음.

만든 과정을 글로 남기거나 기술 노트를 공개하거나 새 언어를 만들어도, LLM이 흡수해 출처를 밝히지 않으니 누가 알아주겠느냐는 질문은 결국 절도 위에 세워진 생태계를 가리킴. 공동체와 개인의 창작 의욕을 무너뜨린 바탕에는 우리가 쌓은 작업과 지적 노력의 약탈이 있음.
오늘 Adobe 제품군을 AI로 재현한 도구들을 만지면서 더 분명해졌음. VectorCraft는 GitHub에서 순수 Rust로 만든 Adobe Illustrator의 오픈소스 클린룸 재구현이라고 소개하지만, 사람들이 모여 Affinity 같은 대안을 만드는 것과 AI에 Illustrator를 다시 만들라고 시키는 것은 근본적으로 다름. AI는 타인의 작업을 세탁함. 수십억 줄의 코드를 압축해 담고 있다가 출처가 지워진 해적판 프랑켄슈타인 바이너리로 풀어내는 셈임. Illustrator와 같은 코드가 한 줄도 없더라도 그 재료는 누군가가 쓴 코드에서 가져온 것임. 신문에서 단어를 오려 붙여 책을 재구성해도 여전히 그 책의 복제인 것과 같음.
이제 누가 더 나은 언어를 만들고 무언가를 쓰려 하겠는가? 애초에 LLM을 가능하게 한 대규모 절도가 없었다면 이런 상황도 없었을 것임.

저작권이 있는 자료에서 배우는 것까지 절도로 재정의해야만 성립하는 논리임. RIAA 같은 저작권 단체의 주장보다도 범위가 넓음.
코드 공동체가 파괴됐다는 말도 자기 상황에만 한정해야 함. 내가 속한 Discord에서는 사람들이 AI와 서로의 도움을 받아 Apple Silicon Mac에서 Linux를 구동하는 작업을 하고 있고, 빠른 진전이 반가움.
사람이 쓰는 코드도 기존 코드를 배우는 데서 나옴. 신문 단어로 책을 복제하는 것은 LLM의 작동 방식과 무관함. 모델이 Harry Potter 문단을 외울 수 있다는 반론도 있겠지만, 나 역시 Ghostbusters 각본의 상당 부분을 외우며 그렇다고 내 뇌가 불법은 아님.
내 동기는 원하는 것이 있어서 만들고, 다른 사람도 원할까 봐 공개하는 것임. AI는 더 빨리 만들 수 있게 해 줄 뿐 그 동기를 바꾸지 않음.

음악업계가 Napster를 공격하던 때도 허락 없이 0과 1을 복사하면 절도라는 구호를 받아들이지 않았고 지금도 마찬가지임. 윤리적으로 논쟁할 여지는 충분하지만, 일상 언어의 뜻을 무리하게 바꾸는 데서 출발하면 논의가 시작되기도 전에 막히게 됨.

애초에 이른바 지식재산권이라는 가상의 권리가 존재한다고 믿는 데서 문제가 생기는 것 아닌가? 원본과 같은 코드가 없어도 타인의 코드에서 배웠으니 문제라는 논리는 사실상 소프트웨어 특허를 옹호하는 셈임. 그렇다면 인간은 어떻게 배워야 하는가?

원본 프로그램과 같은 코드가 한 줄도 없을 수 있다면, 인간이 대체 프로그램을 만드는 것과 무엇이 다른가? 인간도 코드를 읽고 그 지식을 종합해 새 코드를 작성함.
LLM이 상상 가능한 프로그램을 쏟아낼 수 있으면 개발 모임을 꾸릴 동기가 줄고, 아무도 읽거나 출처를 밝히지 않으면 공개의 가치가 줄어든다는 데는 동의함. 그래도 착취적이거나 과도한 비용을 요구하는 도구를 대체하는 것은, 정성껏 손으로 쓴 Rust든 AI가 뽑아낸 Rust든 그 자체로 좋은 결과임.

누구나 수년을 들이지 않고 Illustrator의 대체품을 만들 수 있다는 건 엄청난 해방 아닌가? 그 대가가 출처 인정의 포기라면, 다른 사람에게 이런 능력을 주는 것과 비교해 볼 필요가 있음. 불가능했던 일이 가능해지고 있음.
가져갔다는 것이 모두에게 자유롭게 제공된다면 절도라는 표현은 너무 강하다고 봄. 사람들은 새로운 동기를 찾아야 할 것임.
예전에도 작업이 적절한 경로를 통해 알려지지 않으면 아무도 발견하지 못했음. 언어를 만든 사람은 많지만 HN에서 주목받은 사람은 소수임. 지금도 적절한 곳에서 알리면 사람들이 알게 되고, 그렇지 않으면 모른다는 점은 다르지 않음.

내게는 LLM이 지적 공동체의 빈자리를 오히려 채워 줌. 대부분의 인간이 해 주기 어려운 사고의 대련 상대이자, 서로 연결된 생각을 끝없이 꺼내 주는 사전 역할을 함. 내 사고방식에는 현실 세계가 제공하지 못했던 공동체적 맥락을 제공해 줬음.
물론 한계에 가까워지고 있다는 느낌도 듦. 대중용 에이전트 실행 환경의 프롬프트가 끼어들면 더 나빠지고, 그런 장치가 없어도 할 수 있는 일은 제한적임. 실제 인간이 더 좋은 지적 공동체를 제공할 수 있겠지만, 우선 그런 사람을 찾고 서로의 일정과 에너지까지 맞아야 함.
지금 드러나는 것은 AI의 영향 못지않게 대기업과 거대 기술기업이 사회를 고갈시킨 결과라고 봄. 인간관계를 무너뜨린 것은 AI보다 소셜 미디어이며, 의욕을 키울 공간은 기업이 허용한 획일적이고 무채색인 환경으로 대체됨.
세계화와 개인의 고립, 도시화, 직장을 따라 전국을 옮겨 다녀야 한다는 기대, 모든 소통에 부담을 더하는 맥락 붕괴도 작용함. AI는 원인이라기보다 가속기인 경우가 많음.

미국인은 100년 전보다 이사할 가능성이 낮아졌음. 또 인간의 상호작용을 줄이는 게 아니라 늘리는 도시화가 왜 문제인가? 시골에는 해커스페이스, 미술 작업실, 연구 도서관, 만화 행사, 교향악단 등이 그리 많지 않음.