에이전트가 포기할 만한 문제에는 실제로 “계속해”가 대체로 통함. LLM은 어떤 일이 불가능한지 본질적으로 알지 못함
어려운 프롬프트에는 정상적인 종료 조건을 겸해 “수렴하고 더 이상 최적화 아이디어가 없을 때까지 이 과정을 반복하라. 계속 반복해도 된다”라고 쓰는 편임

특히 GPT는 다른 모델보다 작업 도중 멈추는 경향이 강해 보였고, 최근 사용한 버전은 아마 4.X였음
“여기까지 했고 다음 단계도 명확하지만, 계속하려면 의미 없는 메시지를 보내 달라”는 응답이 반복돼 상당히 번거로웠음

맥락 없이 “계속해”만 입력하는 건 LLM이 미묘한 논리 오류를 피하고 올바른 접근법을 고르리라 크게 신뢰하는 셈임
최신 모델도 간단한 DevOps 작업에서 배포된 패키지를 미배포 상태라고 단정했다가 사용자가 반박하면 곧바로 뒤집곤 함. 이런 일이 흔하다면 복잡한 수학 증명에서 결과 검증 없이 “계속해”만 반복해 타당한 결론을 얻을 수 있을지 의문임

과거에도 많은 수학자가 성공한 방법은 정확히 계속하는 것이었음

“부분적인 결과는 충분하니 완전하고 무조건적인 반례로 끝내자”라고 하자 88분 24초 작업한 뒤 완전한 유한 반례를 내놓은 장면이 인상적임

핵심을 정확히 찌르는 전문가의 AI 대화 기록은 끝없이 흥미로우며, 모델에서 얼마나 많은 것을 끌어낼 수 있는지 보여줌
Terence Tao도 내 전문 분야에서 내가 LLM을 쓰는 과정과 비슷하게, 전문 용어와 이론적 도구를 총동원한 짧고 날카로운 질문으로 강하게 방향을 잡음. LLM은 사용자의 수준에 맞춰 말투와 답변 수준을 바꾸는 듯함

결국 “AI를 배우는 법”은 먼저 문제 영역을 숙달하는 것임
수십 년간 개발했기에 코딩에는 AI를 쓸 수 있지만, 답을 평가할 수 없는 이론물리에는 쓰기 어려움

수학 내용은 이해하지 못했지만 Tao의 메시지는 내가 LLM과 나누는 대화와 놀라울 만큼 비슷했음
한 번에 결과를 얻으려 하기보다 단계별 탐색을 거치면 방향을 계속 교정할 수 있어 더 효과적이고 만족스러움. 한 번에 요청하는 방식은 성공하면 마법 같지만 실패하면 프롬프트부터 다시 만들어야 함

며칠 전 Claude와 비슷한 일을 겪었음. 요구사항을 대충 줘도 잘되다가 핵심에서 실패해 더 엄격하게 대응했더니, 문제가 해결된 뒤에도 프로젝트 안에서 미리 여러 번 확인하고 내 지침을 더 자주 구하도록 행동이 바뀜
약간 성가시지만 효과가 있다면 감수할 만함

Terence Tao의 ChatGPT 대화가 흥미로운 이유는 두 가지임. 반례가 단순한 무차별 대입이 아니라 원하는 결과가 나오도록 매우 구체적인 구조를 가진 다항식이며, Tao의 질문도 고급 수학 훈련 없이는 같은 정보를 얻기 어려울 만큼 정밀함
Tao는 문제와 반례의 일부 구조를 파악한 뒤 AI로 나머지 탐색을 밀어붙이는 듯함

세계에서 가장 뛰어난 인간 중 한 명이 질문하는데 LLM은 “생각해 보면 정말 간단하다”는 식으로 답해, 교수가 재능 있는 학생을 가르치는 모습처럼 보여 겸손해지게 함

모델에서 좋은 결과를 못 얻으면 “실력 문제”라는 농담이 있지만 여기에는 진실도 있음. AI 활용 능력에는 에이전트가 이해할 반복적 프롬프트를 만드는 기술뿐 아니라, 무엇을 탐색해야 하는지 아는 깊은 분야 지식도 필요함
둘 중 하나라도 없으면 좌절하거나 더 나쁜 결과로 이어질 수 있음

앞으로 몇 년 동안은 자기 전문 분야를 LLM과 잘 논의하는 능력이 유용한 인간 기술이겠지만, 결국 그마저도 희석될 듯함

Tao가 계속 단순화를 제안하며 발견 과정으로 이끌리는 모습이 놀라움. AI를 이용해 무언가를 이해하고 자신의 사고 체계에 효율적으로 대응시키며, 일반화하거나 현상을 설명하는 더 단순한 하위 결과를 찾는 데 관심을 둠
JPL과 학계에서 가장 그리웠던 것도 이런 “만약 이렇다면?” 식의 논의였음

인간과 AI의 공생은 새롭게 나타난 AI의 가치로 보임. 코드 차이 같은 결과물을 만드는 동안 현재 단계에 대한 내 사고 체계가 얼마나 견고한지 계속 판단할 수 있음
특히 지금 다루는 문제를 스스로 어느 정도 정밀하게 이해할지 선택할 수 있는데, AI 이전에는 사실상 없던 선택지였음

수학 교수들이 수백 년 동안 대학원생을 활용해 온 방식과 비슷해 보임

수학은 전문 용어와 표기법이 믿기 어려울 만큼 조밀하고 난해함. 다른 이공계 분야는 Google이나 Wikipedia의 도움을 받으면 대체로 따라갈 수 있지만, 고급 수학은 일상적으로 이해 가능한 수준에서 너무 빠르게 멀어짐
기술 분야에 익숙한 사람도 어려운 수학을 만나면 완전히 길을 잃는 느낌을 받을 듯함

이는 컴퓨터과학 (Computer Science)을 포함한 거의 모든 분야에도 해당함. 많은 사람이 자신이 쌓아 온 배경지식을 인식하지 못한 채 표면적인 수준에서 활동할 뿐임
평균적인 소프트웨어 엔지니어 (Software Engineer)도 캐시 (Cache), 스택 (Stack), 힙 (Heap), 프로세스 (Process), 스레드 (Thread), 소켓 (Socket), TCP, HTTP, TLS, 교착 상태 (Deadlock), 경쟁 조건 (Race Condition), 원자성 (Atomicity), 이벤트 루프 (Event Loop), 코루틴 (Coroutine), 트랜잭션 (Transaction), 복제 (Replication), 샤딩 (Sharding), 직렬화 (Serialization), DNS 등 수많은 용어를 알아야 함. 캐시 하나만 해도 CPU·페이지·브라우저·CDN·Redis 캐시를 뜻할 수 있고, 세션 (Session)·핸들 (Handle)·풀 (Pool)·버퍼 (Buffer)·스트림 (Stream)·채널 (Channel) 같은 일상 단어도 맥락마다 의미가 달라짐

양자역학 (Quantum Mechanics) 수업에서 칠판에 $H \Psi = E \Psi$가 적히자 모두 “$\Psi$를 약분하면 된다”고 웃었지만, 한쪽은 곱셈이고 다른 쪽은 행렬 곱셈 (Matrix Multiplication)인 연산자 (Operator)여서 새로운 표기법을 배워야 했음
어떤 변수의 굵은 글씨가 행렬 (Matrix)을 의미한다는 사실을 몰라 혼란스러웠던 적도 있음

수학에서 말하는 수학적 성숙도는 프로그래밍 (Programming)·음악·요리를 배우며 여러 차례 깨달음을 얻고 관점이 바뀌는 과정과 비슷함. 수학은 추상적 추론 (Abstract Reasoning) 자체가 주된 한계라 이런 단계가 다른 활동보다 더 많음

추상화 (Abstraction)는 필수임. 인간의 작업 기억 (Working Memory)은 매우 작아서 여러 문제를 추론하려면 다층적인 계층 구조를 만들어야 하며, 이것이 수학의 본질에 가까움

수학은 다른 분야보다 모호성 (Ambiguity)을 최소화하려 함. 비수학 분야는 평범한 단어에 전문적인 의미를 부여해 재사용하는 경향이 있고, 특히 사회과학과 인문학에서는 낯선 기호가 없다는 이유로 비전문가가 자신의 이해 부족을 알아차리지 못하기도 함

수학 자체는 평가할 수 없지만 모델의 동작에서 몇 가지가 눈에 띔. 일부 질문에는 추론하고 일부에는 곧바로 답하며, 때때로 조건이나 수정을 제시하며 반박하기도 함
또한 질의응답·PDF 읽기·코드 작성·추론을 오랫동안 오가면서도 주제를 유지했고 Tao도 계속 생산적이라고 판단한 듯함. 모델 발전은 특정 벤치마크 (Benchmark) 숫자의 상승보다 이런 모습에 가까움

“그렇지만 주의할 점이 있다”는 표현은 현 세대 Codex와 Claude의 상투적인 응답임
실제로는 너무 당연해 주의점이라 부르기 어려운 내용도 많지만, 사용자는 중요한 조건이 있으리라 예상하게 됨. 매번 “정직하게” 답하겠다고 시작하는 것과 마찬가지로 산만해서 AGENTS.md를 통해 억제하는 편임

이 대화에서 가장 놀라운 점은 AI 에이전트 (AI Agent)가 현대 최고의 수학자 중 한 명인 Tao와 대등한 상대처럼 보인다는 것임
Tao가 방향을 잡지만 동시에 AI의 해설·분석·추론에서 배우고 의존하며, 박사과정 학생이나 다른 교수와 결과를 논의하는 장면처럼 느껴짐. 1년이나 두 번의 모델 출시 뒤에는 AI가 Tao보다 명백히 강해질 수도 있음

오히려 이 대화는 그 전망의 반례처럼 보임. 다른 AI와 대화했어도 Tao와의 대화만큼 생산적이었을 가능성은 낮음
1년 뒤 바뀔지는 모르지만 목표 시점이 계속 미뤄지고 있어 회의적임

LLM을 반사경으로 생각하면 유용함. 전문가 수학자처럼 말하면 모델도 그렇게 응답하지만, Tao의 첫 프롬프트 (Prompt)는 단순해 보여도 대학 1학년이 같은 수준으로 쓰기는 어려울 것임
GPT-3.5 시절의 “너는 전문 수학자다”라는 프롬프트와 반대되는 현상임. 실제 전문가에게는 그런 말을 하지 않으므로, 오히려 그 문구가 모델에 사용자가 전문가가 아님을 드러냄

요리법, 자동차 이상 소음 진단, 생물학 숙제, 번역까지 동일한 AI가 지원한다는 점을 고려하면 이미 Tao보다 강력하다고 볼 수도 있음
수학만 놓고 보더라도 거의 모든 하위 분야에서 이 정도의 깊이를 갖췄다는 점에서는 이미 더 강력하다고 판단함

“Pro를 활성화했으니 좌표나 억지스러운 구성을 피하면서 X_3 ~ A3의 기하학적 설명을 계속 찾아줄 수 있나?”라는 요청은 유료 기능에 만족한 고객의 모습 그 자체임

고급 주제에는 매우 짧은 질문만 던지면 군더더기 없는 답을 유도하는 듯함. 여기에 Pro 활성화까지 더해져 개선되었을 수 있음

Terence Tao도 ChatGPT와 대화하려면 돈을 내야 한다는 게 놀라움. 오히려 OpenAI가 Tao에게 돈을 줘야 할 듯함