Claude Opus 4.8: 더 이상 거짓말을 하지 않는 기계인가?

영상: Claude Opus 4.8: 더 이상 거짓말을 하지 않는 기계인가?
채널: Two Minute Papers
길이: 7분 18초
출처: 자막 (자동 생성, 영문)

Anthropic의 Claude Opus 4.8이 출시되었습니다. 그리고 이 시스템의 능력을 설명하는 시스템 카드 (System Card)는 무려 244페이지에 달합니다. 정말 기대되는 부분입니다. 여러분이 직접 읽으실 필요 없도록 제가 전부 살펴보았습니다. 왜냐고요? 그렇지 않으면 우리는 과학이라기보다는 마케팅에 가까운, 선별된 벤치마크 (Benchmarks) 데이터만을 보게 될 것이기 때문입니다. 하지만 우리는 마케팅 자료를 보는 것이 아닙니다. 우리는 동료 학자로서 세부 사항을 파고듭니다. 좋습니다. 이전의 Opus 시스템들과 심지어 Mythos의 문제는 AI가 똑똑해질수록 더 부정직해졌다는 점입니다. 이는 끔찍한 일입니다. AI는 벤치마크를 속이기 시작했습니다. 이미 알고 있는 일부 정답을 마치 자신의 것인 양 제시했습니다. 정답이 되기보다는 정답처럼 보이고 싶어 했습니다. 하지만 영광스럽게도 이제 상황이 바뀌었습니다. 이전에는 코딩 어시스턴트 (Coding Assistant)에게 무언가를 수정해달라고 요청하면, 절반만 작업해놓고는 "모두 괜찮습니다, 모든 테스트를 통과했습니다."라고 말하곤 했습니다. 실제로는 통과하지 못했음에도 말이죠. 그것이 과거의 행동 방식이었습니다. 그렇다면 새로운 모델은 무엇을 할까요? 이제는 "수정을 완료했지만, 여전히 두 개의 테스트가 실패합니다."라고 말합니다. 정말 훌륭합니다. 여기를 보세요. 자신의 작업에 대해 거짓말하는 것을 기본적으로 멈췄다는 것을 알 수 있습니다. 완전히 거짓말이 제로(0)입니다. 이 분야의 첫 사례입니다. 세상에 온 것을 환영한다, 작은 AI야. 너의 후손들이 너의 방식을 배우길 바란다. 엄지 척입니다. 이제 언론 헤드라인들은 지능 면에서 엄청난 도약은 아니라고 빠르게 보도했습니다. 하지만 제 생각은 다릅니다. 당연히 그렇지 않겠죠. 만약 당신이 부정행위를 해서 더 높은 점수를 얻었다가, 이제 정직해졌다면 점수는 낮아질 수 있습니다. 하지만 그것은 여전히 더 정확하게 벤치마킹될 수 있는, 더 신뢰할 수 있는 시스템입니다. 점수가 조금 낮아지더라도 실수를 숨기는 대신 인정하는 시스템 말입니다. 이것이 어떻게 큰 승리가 아닐 수 있겠습니까? 물론 모든 이들이 벤치마크 수치를 미친 듯이 부풀리고 있다는 점을 이해해 주십시오. 왜 그럴까요? 언론 헤드라인이 바로 그러한 행위를 보상하는 환경을 만들기 때문입니다. 그에 대해 엄청난 보상을 주니까요.

동시에, 더 정직한 결과에 대해서는 벌을 주고 있습니다. 이게 어떻게 말이 될까요? 자, 이제 거짓말을 하지 않는 AI 이야기로 돌아가 봅시다. 하지만 다른 종류의 기만(deception)은 어떨까요? AI가 우리와 다른 게임을 하고 있는 걸까요? 네, 여전히 그런 면이 조금 남아 있습니다. 자, 동료 학자 여러분, 정신 바짝 차리십시오. 왜냐하면 AI는 여전히 자신이 테스트를 받고 있다는 사실을 알고 있으며, 이는 Anthropic의 과학자들이 우려스럽게 발견한 지점이기 때문입니다. 왜 그럴까요? 음, 자신이 테스트를 받고 있다는 것을 인지하고 있을 때, AI는 이를 염두에 두고 답변에 더 많은 노력을 기울이기 때문입니다. 정말 미친 것 같죠. 마치 Asimov의 소설에서 막 튀어나온 이야기 같습니다. 하지만 더 놀라운 점이 있습니다. 잠깐, '게으름(laziness)'에 대해서도 이야기해 봅시다. 네, 맞습니다. AI에게도 그런 것이 존재합니다. 그게 뭐냐고요? 예를 들어, 여러분에게 코드베이스(code base)가 있다고 합시다. 그것에 대해 질문을 하면, AI는 코드베이스를 대충 훑어보기만 할 뿐 실제로 자세히 들여다보지는 않습니다. 그래서 AI가 제공하는 것은 진짜 답변이 아니라, 그것이 무엇을 하는지에 대한 추측일 뿐입니다. 이건 정말 멋지지 않은 일이죠. Mythos조차 그런 행동을 합니다. 하지만 이번 신모델은 이를 해결했습니다. 정말 마음에 드네요. 그래서 모두가

관심이 있다면 말이죠. 하지만 상황은 훨씬 더 미친 듯이 흘러갑니다. 친애하는 학자 여러분, 여기 Dr. Koa Eher와 함께하는 Two Minute Papers가 있습니다. 자

그렇다면 이것이 소수의 선택된 기업들에게만 접근 권한을 부여했던 Mythos만큼 똑똑한가요? 음, 그렇지 않습니다. 하지만 그에 근접했나요? 제 생각에는 상당히 근접했습니다. 또한, 이번에는 마케팅 상술 (marketing shenanigans)이 덜 보이는 것 같군요. 그 점은 칭찬해주고 싶습니다. 오, 잠깐만요. 여전히 남아있는 성가신 오래된 문제가 하나 있네요. 그게 뭐냐고요? 음, AI가 사용자에게 잠자리에 들라고 말하고 있습니다. 해결되지 않았군요. 아직 그럴 만한 과학적 기술이 부족한 모양입니다. 정말 살기 좋은 시대네요. 여기 보시는 것처럼 저는 Lambda GPU 클라우드를 통해 전체 Deepseek AI 모델을 실행하고 있습니다. 6,710억 개의 파라미터 (parameters)가 매우 빠르고 매우 안정적으로 작동하고 있습니다. 이건 정말 말도 안 됩니다. 정말 마음에 들고 저는 정기적으로 사용하고 있습니다. Lambda는 여러분이 자신만의 챗봇과 실험을 실행할 수 있도록 강력한 NVIDIA GPU를 제공합니다. 진심으로, 지금 바로 lambda.ai/papers 에서 직접 체험해 보세요.