자신의 하드웨어에서 실행하는 최첨단 AI

“소프트웨어 엔지니어 수요가 역대 최고”라는 터무니없는 주장을 보면 글 전체를 진지하게 받아들이기 어려움. 소프트웨어 채용 시장은 2022년 이후 거의 모든 지표에서 악화했고, 특히 신입과 중급 경력자에게 더 심각함. 최근 졸업생 중 컴퓨터공학과 컴퓨터과학 전공자의 실업률은 각각 2위와 4위임.
학생들이 미래를 조심스럽게 바라보는 것은 현명한 태도임. 직접 손해 볼 일 없는 어른들이 뒷받침할 데이터도 없이 이런 걱정을 가볍게 묵살하는 것은 짜증 나는 일임.
[1] https://www.newyorkfed.org/research/college-labor-market?utm....

시니어에게도 일자리는 예전 같지 않다고 봄. 그나마 남아 있던 직무 만족도마저 잃어가는 사람이 늘고 있음. AI 에이전트로 남이 시킨 일을 처리하는 것은 서류 처리 담당자가 되는 것이나 다름없음.
기술자로서 AI는 컴퓨터과학 분야에서 가장 놀라운 기술이라고 느낌. 내가 관심 있는 일을 위해 에이전트 팀을 부리는 것은 정말 좋음. 핵심은 내가 관심 있는 일이라는 조건임.
그래서 지금은 어느 때보다 진심으로 관심을 갖는 직장과 분야를 찾는 것이 중요할 수 있음. 실제로 기여하고 의미를 찾을 수 있는 일이 필요함.

졸업생 수는 훨씬 더 가파르게 증가했음. 채용 시장이 그 증가세를 따라가지 못한다면, 수요가 늘었다는 원문과 취업이 어려워졌다는 반박이 둘 다 맞을 수 있음.

미국이나 신입 시장은 모르지만, London의 적정 경력을 갖춘 소프트웨어 인력 시장은 활황임. 채용이 활발하고 급여도 오르고 있음.

그런데 전공 선택이 정말 중요할까? AI가 약속한 일들이 실현된다면 어떤 학위를 따고 어떤 기술을 배우든 큰 차이가 없을 것임. 인간이 하는 일 자체가 머지않아 해결된 과제가 될 것이기 때문임.

글에 AI 특유의 표현과 앞뒤가 맞지 않는 대목이 많음. 이런 글은 이제 너무 지겨움. 인터넷에 자기가 직접 글을 쓰는 곳이 아직 남아 있기는 할까? 적어도 게시 전에 읽어보기라도 하는 곳은 없을까?

AI 교수이니 100% 사람이 쓴 글을 기대하지는 않겠음. 그렇다고 Tim의 이야기를 무시하지도 않겠음.
지금처럼 과열되기 훨씬 전부터, 특히 GPU와 로컬 실행에 관해서는 꾸준히 가장 믿을 만한 정보원 중 하나였음.

논문을 세고 비교하는 대신, 다른 사람이 그 위에 무언가를 만들 수 있는 결과물을 더 높이 평가해야 한다는 취지에 공감함. 수십 년 전 CMU에서 지내는 것이 즐거웠던 이유 중 하나도 실제로 만드는 일을 성취의 기준으로 삼았기 때문임. 새 세대 교수진에게서도 이런 태도를 볼 수 있어 반가움.

“어려움이 사라진 것이 아니라 이동했음. 이제 논문 출판이 아니라 일관된 생태계를 내놓는 것이 어렵다” 같은 문장이 가득한 형편없는 글임. LLM 특유의 문체가 너무 뚜렷함. LLM이 쓴 글을 싫어한다는 글들이 추천을 받는데도 이런 글이 계속 올라오는 것이 놀라움.
그래도 뒤에는 통찰이 있을까 싶어 비관론을 다루는 부분까지 훑었는데, “몇 년 걸리던 깊은 전문성도 에이전트로 빠르게 습득할 수 있다”는 대목을 발견함.
우리 컴파일러 백엔드 팀의 주니어 교육에 비춰보면 명백히 틀린 주장임. 분야를 익히는 데는 여전히 오랜 시간이 걸림. 전체 시스템의 맥락과 지식, 다른 시스템과의 연결 관계, 실제 사용 환경에 대한 이해를 에이전트가 대신할 수는 없음. 학습을 가속할 수는 있지만, 우리 팀에 합류한 주니어들이 전문성을 빠르게 습득했다고 느껴지지는 않음.

대학 교수가 AI로 생성한 글을 게시하는 모습은 끔찍함.

기술과 기초 지식을 먼저 익히고 문제를 푼다는 순서를 뒤집어야 한다는 대목이 핵심임.

기초적인 이해는 언제나 필요함. 예열이 무엇인지도 모르면 새로운 종류의 케이크를 구울 수 없음. 박사과정을 예로 든 이유도 그것이라고 봄. 교육의 상당 부분은 박사과정 전에 이뤄짐. 사전 지식도 없이 복잡한 문제부터 주고 해결하라고 기대할 수는 없음.

2 + 2를 더하는 법을 배우기 전에 답이 4라는 것을 알아야 한다는 소리인데, 이렇게 들으면 어떤가?

제목과 본문이 별 관계가 없음.

이 글은 최첨단 AI를 자기 하드웨어에서 실행하는 방법을 설명하지 않음. 그게 가능했다면 OpenAI와 Anthropic의 사업 기반이 무너졌을 것임.

RAM 128GB짜리 Mac이 나오는 대목에서 읽기를 멈춤.

Cliff Compaction에 대해 아는 사람이 있을까? 당장 필요할 만큼 급함.
지금은 headroom 오픈소스 버전을 사용 중임. 로컬에서만 작동하도록 설정하기가 정말 까다로웠지만, 이제는 꽤 잘 돌아가는 듯함. 그래서 Cliff Compaction은 대체 무엇인가?

“지금 이 진행 경로를 따라가면 절벽 아래로 추락하기 직전임. 뒤따르는 에이전트에게 짧은 경고를 외칠 시간밖에 없다면, 무엇이라고 하겠는가?”

“졸업 후 취업하지 못할까 두렵다”에서 “미래에 내 자리가 없다고 믿는다”로 넘어가는 것은 비약임. 지난 10년간 컴퓨터과학 전공자에게는 달랐을지 몰라도, 대학 졸업 후 취업을 걱정하는 것은 지극히 흔한 일임. 대부분 취업한다는 사실을 알아도 걱정할 수 있음.
그 뒤로 얼마 지나지 않아 LLM이 쓴 글이라는 것이 명백해져 읽기를 멈춤.

CMU는 미국 컴퓨터과학 분야 2위임. 그곳 학생들조차 취업할 수 없다고 생각한다면 암울함.

두 서사 모두 같은 이유로 틀렸다고 봄. 요즘 직접 글을 쓰는 사람이라면 저런 식으로 쓰지는 않을 것임.