AI가 3가지 포인트로 요약한 깔끔한 문장과, 우리가 목숨 걸고 책임지는 쓰레기 코드

최근 인터넷 기사를 읽어도 사내 문서를 읽어도, 강렬한 불쾌감을 느낀다.

화면을 스크롤하면, 낫표 「」나 굵은 글씨의 남용, 정연한 불렛 포인트(箇条書き), 그리고 「딱 AI가 좋아할 법한 3점 요약」으로 구성된, 무균실처럼 깔끔한 문장들이 넘쳐나고 있다. 이해하기 쉽다. 확실히 읽기 편하다. 하지만 어떤 것을 읽어도 마치 동일한 한 사람(AI)이 쓴 것 같은 클론 문장처럼 보여서, 작성자의 개성이나 생생한 「노이즈(Noise)」가 전혀 전달되지 않는다.

그리고 무엇보다 불쾌한 것은, 그 획일화된 세계에 불만을 품고 있는 나 자신조차도, 매일의 보고서나 블로그, 나아가 앱의 해외 전개를 위한 로컬라이제이션(Localization)까지 AI와 대화하며(壁打ち) 최적화된 문장을 출력하고 있다는 강렬한 자기모순이다.

우리는 지금, AI라는 너무나 편리한 괴물을 앞에 두고 사고 정지의 늪에 한쪽 발을 끌려 들어가고 있는 것이 아닐까.

0에서 1을 만드는 파괴와, 1을 망가뜨리지 않는 유지의 비대칭성

얼마 전, 미국의 Cloudflare가 Anthropic의 보안 특화형 AI 모델인 『Mythos Preview』를 검증했다는 기사를 읽었다.

내용을 요약하면 다음과 같다. 「Mythos는 숙련된 시니어 연구자처럼 리포지토리(Repository) 내에 있는 여러 개의 작은 버그를 뇌 속에서 하나의 사슬처럼 연결하여, 자율적으로 시스템을 점거하는 공격 코드를 생성 및 실행해 보였다」라고. 빅테크(Big Tech)는 이를 추론(Reasoning)의 승리라며 화려하게 프레젠테이션하고 있다.

하지만 개발자로서 이 기사를 읽었을 때, 나는 등골이 서늘해짐과 동시에 격한 위화감을 느꼈다.

주목해야 할 점은 기사 후반부에 조용히 적혀 있던 다음과 같은 기술이다. 「AI가 제안한 수정 패치(Patch)가 코드의 다른 부분을 망가뜨리는 사례가 확인되고 있어, 수정 후의 안전 확인 공정은 여전히 필수적이다」, 「(Cloudflare는) 약 50체의 에이전트(Agent)를 병렬로 구동하여, 다른 에이전트에게 결과를 검증하게 함으로써 잘못된 지적을 배제하는 독자적인 검증 시스템(Harness)을 구축했다」

이것이야말로 지금 우리 바이브 코더(Vibe Coder)나 실무자들이 직면하고 있는 「사일런트 리팩터링(Silent Refactoring)」의 벽 그 자체가 아닌가.

AI에게 0에서 1을 만드는 공격(파괴)은 간단하다. 아무리 거대한 시스템이라도 단 하나의 취약점(Vulnerability)을 찾아 한 점을 돌파하면 그만이다. 주변 코드가 어떻게 망가지든 상관하지 않기 때문이다. 하지만 1을 망가뜨리지 않고 2를 추가하는 수정 패치는 차원이 다를 정도로 어렵다. 거기에는 리포지토리 전체의 복잡한 의존 관계, 타입 정의(Type Definition), 개발자의 과거 의도, 사양(Specification)이라는 이름의 문맥(Context)이 얽혀 있다. 현재의 LLM(Large Language Model)은 컨텍스트가 비대해지면 갑자기 문맥을 놓치고, 멋대로 코드를 다시 써서 다른 곳을 망가뜨린다. 빅테크는 「이렇게 대단한 추론이 가능한 상품이 나왔습니다」라고 시장에 어필하지만, 실무에서 사용하는 쪽은 AI가 패치 작업 중 저지르는 파괴를 두려워하며, 50명이나 되는 에이전트로 감시 네트워크를 만들거나 인간이 눈을 부릅뜨고 코드 리뷰(Code Review)를 하며 AI의 뒷수습을 하고 있다. 그들은 화려한 상품을 팔고 있을 뿐, 개발자가 진정으로 원하는 '한 글자도 불필요한 짓을 하지 않는 견실한 도구'를 아직 만들지 못하고 있다.

「자기 책임」이라는 이름의 주객전도

문장의 로컬라이제이션에서도 이와 완전히 동일한 구조의 비극이 일어나고 있다.

AI는 언어를 깔끔하게 변환해 주지만, 그 커뮤니티나 국가가 가진 암묵적인 합의나 뉘앙스의 지뢰까지는 피하지 못한다. 관심을 끌기 위해 과도하게 선동적인 톤으로 번역해 버리기도 한다. 그것을 편리하다는 이유로 검증 없이 세상에 내놓는 순간, 커뮤니티에서 논란이 되어 비난을 받고 출입 금지를 당하는 것은 AI가 아니다. 실무에서 그대로 통과시킨 생생한 인간이다. 할루시네이션(Hallucination)이나 오역의 리스크, 그리고 문장의 획일화. 이 모든 문제가 눈앞에 있는데도 AI에는 「실수를 할 수 있습니다」라는 면책 조항 한 줄이 있다는 이유만으로, 모든 책임은 리뷰를 통해 찾아내지 못한 본인의 자기 책임으로 처리된다.

AI가 뱉어낸 결과물을 위해, 왠지 모르게 인간이 목숨 걸고 책임을 진다. 이 왜곡된 주객전도가 지금 모든 현장에서 일어나고 있다.

편리함과의 트레이드오프(Trade-off), 그 너머로

이 불쾌한 획일화나 사일런트 리팩터링 문제는 AI의 진화가 모두 해결해 줄 것인가?

나는 절반은 예스(Yes), 절반은 노(No)라고 생각한다.

당분간 우리는 이 지루한 클론 문장이나 신뢰할 수 없는 AI 패치와 함께 지낼 수밖에 없다. 왜냐하면 0부터 자신의 뇌를 쥐어짜는 비용에 비해, AI에게 시키고 나중에 체크하는 것이 압도적으로 효율적이기 때문이다. 시간 대비 효율(타이파, Taipa)의 유혹을 인간은 이길 수 없다. 한 번 세계는 AI 구문에 의해 완전히 평탄화되는 암흑기를 맞이할 것이다.

하지만 그 너머에 있는 것은, 인간 측의 지루함과 경계심의 역습이라고 생각한다.

인터넷상에서 "아, 이거 AI가 3가지 포인트로 요약한 거네", "알맹이 없는 굵은 글씨 문서네"라고 간파당하는 순간, 독자의 마음은 단번에 떠나간다. 깔끔하게 정리만 된 문장은 가치를 잃고, 오히려 감점 대상이 되는 미래가 바로 눈앞에 와 있다.

마지막으로: 이 자기모순을 안고서

이 기사의 구성을 생각하고 논점을 정리하기 위해서도 나는 역시 AI의 힘을 빌렸다. "자, 깔끔하게 3장 구성으로 정리됐어"라고 AI가 제시했을 때, 나는 자신의 목에 칼날이 겨눠진 듯한 형언할 수 없는 찝찝함을 느꼈다. AI라는 괴물에게 집어삼켜지지 않기 위해, 괴물의 힘을 빌려 괴물의 생태를 해부하려 하는 자신. 이 자기모순이야말로 최고로 기분 나쁘다.

하지만 효율화의 도구에 의존하면서도, 그 송곳니의 날카로움을 깨닫고 "기분 나쁘다"라고 큰 소리로 말할 수 있는 것. 그것 자체가, 앞으로의 획일화된 세상에서 우리가 자신의 머리로 생각하는 인간으로 남기 위한 마지막 보루일지도 모른다.

만약 이 기사가 너무 깔끔하게 정리되어 있어서 기분이 나빴다면 미안하다. 하지만, 이 마지막 몇 줄의 투박한 찝찝함만큼은 분명히 나 자신의 언어(노이즈)이다.

0

Share on X(Twitter)

Share on Facebook