오늘 집에 오는 지하철에서 옆 사람이 YouTube Shorts를 최대 음량으로 보고 있었고, 조용하고 꽉 찬 열차 안에서는 소음 공해라 짜증났음
더 짜증났던 건 그가 보던 영상이 완전히 AI로 생성된 저품질 영상이었다는 점임

이 글에서 의존성 작성자들이 LLM으로 이해하기 어려운 변경을 만든다는 일화가 와닿았음
LLM 오용에서 가장 답답한 부분은 서로의 상호작용을 망가뜨린다는 데 있음
예전에는 회사에서 허술하게 생각한 제안을 검토하더라도 핵심 아이디어가 그대로 드러나서 집어내고 코멘트하기 쉬웠지만, 이제는 누구나 허술한 변경을 LLM에 넣어 겉보기엔 잘 짜인 듯하지만 검토하면 구멍투성이인 결과물로 만들 수 있음
마찬가지로 겉보기엔 좋아 보이는 나쁜 코드도 만들 수 있음

새로운 불평은 아니지만 점점 신경을 건드리기 시작함
일과 삶을 즐겁고 충만하게 만들던 인간적 연결의 핵심 일부를 잃어가고 있는 느낌임

동료가 “이건 🤖가 했어”라고 솔직히 알려줘서, 어느 수준의 검토를 기대하는지 미리 알 수 있어 좋음
보통은 코드베이스를 더 배우려고 사용한 과정의 문서라서, 동료가 LLM 출력을 읽었고 제대로 배웠는지 확인받고 싶어 한다고 믿을 수 있음

LLM이 바꾼 건 품질의 상대 가격이라고 봄
집에 비유하면, 예전에는 지붕이 새고 기초가 나쁜 형편없는 McMansion이 1000X, 숨은 골칫거리가 없는 좋은 집이 2000X였음

이제 LLM 기술로 숙련자가 기계적이고 검증 쉬운 작업 일부를 맡겨 좋은 집 가격을 이론상 1500X로 낮출 수 있음
그런데 형편없는 McMansion은 100X로 떨어졌음

그래서 저품질 McMansion들이 품질 좋은 작업을 추한 방식으로 밀어낼 가능성이 큼
좋은 집을 2000X에서 1500X로 낮추는 장인들을 괴롭힐 생각은 없지만, 100X짜리 조악한 집들이 더 나은 것을 시장에서 밀어내고 레몬 시장을 만들면 고객들이 소프트웨어 전반을 훨씬 더 의심하게 될 수 있음
구매자가 품질과 쓰레기를 구분할 방법이 없다는 점에서 레몬 시장은 보기 흉함
소프트웨어에서 가장 유명한 예는 1983년 비디오 게임 대폭락으로, 엄청난 쓰레기 게임 물결에 많은 고객이 데이고 구매를 멈췄던 사건임

이 입장은 충분히 합리적이라고 봄
개인적으로는 시간이 지나면 대부분 헛수고가 될 것 같고, 내 소프트웨어 사용에서는 크게 신경 쓰지 않지만, 주관적 관점으로는 충분히 타당하고 흥미로우며 이 사람이 이렇게 하는 것도 좋다고 생각함

AI 낙관론자들이 과장하는 것처럼, 반AI 쪽도 부정적 측면을 지나치게 극적으로 말하는 경향이 있음
이 글 자체는 예외에 가깝지만, 마지막 문단의 성급한 일반화를 뺐다면 전체 의도와 메시지가 훨씬 강해졌을 것 같음

그래도 이런 글을 읽고 감정 속에서 흥미로운 부분을 찾아보는 걸 좋아함
프로젝트별로 마지막으로 알려진 100% 비LLM 코드 데이터베이스가 있으면 흥미로울 듯함 영향 있는 슬롭 데이터베이스도 재미있을 것 같고, 여기서 “영향 있는”은 긍정·부정 양쪽 모두, “슬롭”은 검토되지 않은 출력이라는 의미가 중요함

대충 2023년 초의 GitHub 아카이브를 가져오는 식으로 속일 수도 있겠지만, 단순한 특정 시점 스냅샷이 아니라 프로젝트별 마지막 커밋 스냅샷이면 더 흥미로울 것임
이 데이터셋에서 나올 만한 흥미로운 결과가 많아 보이고, 이 글처럼 비LLM 소프트웨어만으로 생태계를 만들고 싶은 사람들에게도 도움이 됨

이미 짐작하겠지만 나는 LLM 사용자임
그래도 합리적인 쪽이라고 생각함
궁금하면 내 웹사이트 글을 읽어도 되는데, 블로그 글 본문은 100% 사람이 썼다고 약속함
반대 의견을 읽는 것이 배우고 성장하는 가장 좋은 방법 중 하나라고 생각해서 이런 시도에 참여하는 걸 좋아함