Video: GPT6 Astra, 인간 일자리 대체의 시작인가... 5일 동안 쉬지않고 일한 후 미친 결과 | 10만 GPU로 만든 ‘일하는 AI’의 등장 | 구글, 앤트로픽 전략 차이
Channel: 안될공학 - IT 테크 신기술
Duration: 9m 47s
Source: subtitle (auto, ko)
Transcript:
네, 여러분 안녕하세요. 패치입니다. 요즘 또 AI들이 쏟아지고 있습니다. 9월 1일에 앤트로픽이 페이블 5.1을 공개를 했는데요. 그다음날 구글이 재미나의 3.8 플래시, 그리고 9월 3일에는 오픈 AI가 GPT6 에스트라를 공개했습니다. 스트라는 일부 조직을 대상으로 먼저 제한돼서 배포가 됐고요. 채 G지PT플러스 프로즈니스 엔터프라이즈랑 API로 순차적으로 확대가 되고 있습니다. 불과 사흘 사이에 세회사의 최신 모델이 전부 등장한 거예요. 출시 직후에 공개되고 있는 사용 사례들도 꽤 인상적인데요. 얼리엑세스로 에스트라를 써온 AI 크리에이터인 메우 벌맨이 심시티 스타일의 게임 하나를 만들어 보라고 맡긴 뒤에 슬래시골 작업을 다세 동안 연속으로 돌렸는데요. 데모를 공개할 때까지도 에스트라가 작업을 계속 하고 있었다고 합니다. 아 물론 모델 한 번의 응답이 다세 동안 이어졌다는 뜻은 아니고요. 코덱스의 장기 작업 환경에서 하나의 목표를 계속 유지를 하면서 계속 만들고 수정하고 이런 과정을 이어간 사례라고 보시면 돼요.

3D 쪽에서는 오픈 AI가 직접 공개한 데모가 있는데요. 에스트라가 블렌더에서 집을 모델링한 다음에 그 결과물을 언리얼 엔진 5로 옮겨 가지고 실제로 내부를 걸어다닐 수 있는 공간까지 만들었다고 합니다. 초기 사용자들 사이에서도 이런 장시간 작업이랑 3D 제작 능력 때문에 반응이 꽤 좋아요. 아직 출시 초기의 일부 사례를 전체 성능이라고 이렇게 일반화시킬 수는 없겠지만 이번에는 단순히 그냥 답변을 잘하는 것보다 한번 맡긴 일을 오랫동안 붙잡고 결과물을 계속해서 만들어내는 그런 모습이 눈에 띄는 거죠. 이런 결과물을 만든 GPT6의 학습 규모를 보면 더 큰 숫자가 하나 나오는데요. 오픈 AI 연구 부사장인 에이덴 클라크에 따르면 에스트라는 회사 역사상 가장 큰 학습이었고요. 텍사스 스타게이트에서도 처음으로 10만 개가 넘는 GPU를 하나의 사전 학습을 사용을 했습니다. GPT 하나를 만들기 위해서 거대한 AI 데이터 센터의 컴퓨팅을 통째로 동원하는 그런 규모까지 온 거예요. 스타게이트에는 지난해부터 NBDI의 GB 200렉도 들어가기 시작을 했거든요.

에스트라에 사용된 GPU의 정확한 구성이 이제 공개되지는 않았기 때문에 10만 개가 전부 GB 200이었다고 이렇게 말할 수는 없겠지만 GPT 세대가 블랙웰급 대형 크러스터가 실제 가동되는 시기에 들어선 거는 분명하다고 봐야겠죠. 그 정도의 컴퓨팅을 넣었다면 GPT6가 다른 모델을 멀찍히 따돌렸을 것 같은데 현재 결과는 그렇게 단순하지가 않아요. 알티피셜 아리시스의 종합 지표에서는 클라우드 페이블 5.1이 65.7점, GPT6 에스트라가 61.2점 2점, 재미의 3.8 플래시가 58.7점입니다. 물론 GPT 6가 앞서는 평가도 많은데요. 10만 GPU를 쓴 신형 GPT가 모든 영역에서 압도적으로 1등이 된 건 아니에요. 자, 그러면 그 많은 컴퓨팅으로 오픈 AI가 크게 끌어올린 부분은 어디냐? 이거는 컴퓨터를 직접 사용하면서 긴 일을 끝내는 그런 능력입니다. 예를 들어서메일로 지난 달고 최신 숫자로 고치고 이번 주에 가능한 날짜도 확인해서 보내 주세요. 이런 요청이 왔다고 해 볼게요. 이거를 답장만 쓰는 건 요즘 AI가 잘해요.

근데이를 통째로 넘기게 되면 이제 파일을 찾아야 되고 내용을 판단을 해 가지고 수정을 하고 또 일정까지 확인한 다음에 최종 결과를 전달을 해야 되잖아요. 앞에서 얻은 정보를 계속 기억을 하면서 여러 가지 행동을 연속으로 성공을 해야 되는 거죠. 이게 아주 단순하게 각각의 행동을 90%의 확률로 성공한다고 가정을 해도 여덟 단계를 얘가 전부 한 번에 통과를 할 확률은 약 43%까지 내려갑니다. 실제 우류가 이렇게 독립적으로 각각 발생을 하는 건 아니지만 짧은 질문에는 잘 대답을 하던 AI가 긴 업무에서 갑자기 이렇게 좀 많이 실패하는 이유를 이해하기에는 좋은 예시라고 보여집니다. 실제로 여러 가지 프로그램을 오가면서 업무를 끝까지 처리시키는 어토메이션 벤츠에서 GPT 5.6 소홀은 18.1% 1% GPT 6S라는 41.4%를 기록을 했습니다. 클로드 페이블 5.1은 31.4%였고요. 이게 18.1%에서 41.4%면 세대 차이가 꽤 크게 나죠. 근데 그래도 사용자 입장에서 보면 어쨌든지간에 아직 절반 이상의 작업을 완벽하게는 끝내지 못한다는 뜻이기도 해요.

오픈 AI가이 능력에 많은 자원을 쓰는 이유는 현재 사업하고도 좀 잘 맞는데요. 오픈 AI 매출에서 기업 사업의 비중이 지금 빠르게 커지고 있고요. 채찍랑 코덱스도 단순히 그냥 답을 만들어 주는 거에서 사용자가 하던 일을 직접 처리하는 방향으로 그렇게 확장을 하고 있습니다.이 이 자료를 어떻게 고치면 될까라고 물어본 사용자가 점점 많아진다면 그다음에는 이제 AI가 수정 방법을 설명하는 데서 끝나는게 아니라 직접 AI가 자료를 고쳐 주는 그런 기능을 원하게 되겠죠. 자, 그럼 네가 고쳐 줘. 이렇게 요청을 할 거예요. 코드도 그냥 설명해 주는 데서 끝나는게 아니라 파일을 열어 가지고 수정하고 테스트까지 돌리는 거죠. GPT6 역시도 오픈 AI가 처음부터 끝까지 이어지는 전문 업무. 그러니까 엔드투 엔드 워크를 특히 강조한 모델입니다. 시스템 카드를 보면은이 능력이 훨씬 어려운 환경에서 어디까지 올라왔는지도 나오게 되는데요. 오픈 AI가 최신 소프트웨어 취약점을 대상으로 평가를 하던 과정에서 아스트라가 아직 알려지지도 않았던 제로대의 취약점을 직접 찾아내 가지고 공격 경로에 일부러 사용을 했습니다.

전문가 주도 평가에서는 이게 하드닝된 브라우저에서 샌드박스를 탈출해 가지고 호스트에서 명령을 실행하는 전체 치매 체인이랑 하든닝된 운영 체제 안에서 비권한 사용자에서 루트 권한까지 이렇게 올라가는 로컬 권한 상승 체인도 구성을 했고요. 그래서 GPT6라는 오픈 AI 모델 가운데서 처음으로 회사의 사이버 보완 능력 기준에서 크리티컬 단계에 들어갔어요. 크리티컬이라는 분류는 충분한 도구랑 접근 권한을 줬을 때 사람의 디테일한 지시 없이도 새로운 취약점을 찾아내고 검증을 해 가지고 실제 공격 체인으로 연결할 정도의 그런 기반 능력이 생겼다는 의미인데요. 그래서 현재 엑스트라 자체도 순차적으로 배포 중이고요. 실제 채치T 제품에서는 별도의 안전 장치랑 권한 제한이 적용이 됩니다. 오픈 AI는 GPT6한테 다른 AI의 학습을 계산하는 일도 맡겨 봤는데요. 작은 언어 모델의 학습 코드랑 제한된 컴퓨팅 환경을 주고서 그 안에서 이제 정해진 시간 안에 직접 코드를 고치고 학습 설정을 바꿔 가지고 성능을 높여 보게 한 거예요.

포스트레인 벤치 계열 평가에서도 작은 오픈소스 모델이랑 GPU를 주어서 어떤 데이터를 쓰고 무엇을 다시 학습할지를 스스로 결정하게 했습니다. GPT6가 자기보다 좋은 GPT7을 혼자 만든다는 그런 의미는 아니고요. 작은 모델이랑 제한된 환경에서 진행한 평가이고 오픈 AI 역시도이 항목에서는 에스트라가 자사히 하이 케이퍼빌리티 기준에는 도달하지 못했다고 판단을 했습니다. 그래도 장면 자체는 꽤 인상적이죠. 10만 개가 넘는 GPU로 GPT6를 만든 다음에 완성된 GPT6한테 제한된 GPU 자원을 주고서 이번에는 네가 AI를 더 잘 학습시켜 봐라 이렇게 시킨 거예요. 이런 GPT6랑 클로드 그리고 재미나이를 이렇게 같이 놔보면이 세들이 최신 모델한테 맡기려는 역할도 조금씩 다르게 보입니다. 앤트로픽은 페이블 5.1에서 몇 시간 동안이나 계속 이어지는 그런 어려운 작업을 반복해서 강조를 했어요. 거대한 프로그램 전체를 수정을 하거나 많은 문서를 읽고 결과물을 만들면서 중간에 실패를 해도 다시 계속 시도를 해 가지고 계속 계속 진행을 하는 그런 형태인 거죠.

안트로픽도 기업 시장을 강하게 공략을 하고 있는데 클로드를 특정 서비스 하나에 이렇게 묶어 놓기보다는 여러 기업 시스템이랑 클라우드에 넣어 가지고 개발이나 법률 뭐 금융 이런 것처럼 사람이 오랫동안 붙잡고 있던 갑비싼 지식 업무를 맡기는 쪽에 강점이 있어 보입니다. 구글은 출발점이 약간 달라요. 워크스페이스부터 구글 클라우드 그리고 자체 TPU까지 이미 갖고 있기 때문에 제미나이를 넣을 장소를 처음부터 새로 만드는 거보다는 사람들이 이미 쓰는 서비스에서 계속해서 호출할 수 있게 그렇게 만들 수 있는데요. 그러니까 메일에서도 쓰고 문서에서도 쓰고 그리고 기업 서버에서도 수많은 에이전트를 동시에 돌릴 수가 있죠. 제미나이 3.8 플래시의 가격도이 방향이랑 좀 잘 맞아 보여요. GPT 6라랑 클라우드 페이블 5.1은 API 입력의 100만 토큰당 10달러 그리고 출력은 50달러인데요. 제미나의 3.8 플래시는 올해 말까지 0.75달러랑 75달러랑 3.75달러입니다. 여러분 이게 13배 차이예요. 플래시라는 이름이 붙었지만 구글은 이번 모델을 가벼운 그냥 보조 모델 그런 정도가 아니라 장시간에 소프트웨어 개발이랑 자율 레이전트까지 바뀌는 그런 주력 모델로 설명을 하고 있습니다.

근데 그렇다고 해 가지고 재미나이가 13배 싸다고 실제 업무도 13배 정도 싸지는 건 아닌데요. AA한테 긴 일을 시키기 시작을 하면 한 번 호출할 때 가격이랑 일 하나를 끝내는 가격이 달라지기 때문이에요. 파일을 잘못 찾아 가지고 다시 검색하고 코드를 틀리게 고쳐 가지고 또 다시 실행하고 이러면은 호출은 계속 쌓이겠죠. 반대로 모델 한 번의 가격이 비싸도 적은 시행착으로 이제 한 방에 끝내게 되면 총 비용은 낮아질 수가 있고요. 이게 GPT 6에서 그 사례가 하나 나왔는데 에스트라는 GPT 5.6 솔보다 토큰 단가가 대략 두 배의 안팎 정도로 높은 수준인데요. 3D 설계 작업을 수행을 하는 벤츠캐드에서는 오픈 AI가 계산한 작업 한 건당 추정 API 비용이 오히려 43% 정도 낮았습니다. 솔은 현재 프로모션 가격도 별도로 적용이 되고 있어 가지고 정확한 배수는 어느 가격을 기준으로 하느냐에 따라서 이게 달라지겠지만 어쨌든지간에 벤치 캐드에서는 비싼 모델이 더 높은 성공률이랑 적은 시행착으로 최종 작업 비용을 낮춘 사례가 나온 거예요.음 이거는 회사 자체 평가이기는 하고 특정 테스트에서 나온 숫자라는 조건이 붙긴 합니다.

그래서 우리가 지금까지 AI 가격표에서 가장 먼저 확인하던 건 100만 토큰이 몇 달러인가라는 숫자였는데요. 사람한테 한시간짜리 일을 넘기듯이 AAI한테도 일을 통지로 맡기기 시작을 하면 옆에 다른 숫자가 하나 더 붙어야 될 것 같아요. 일을 시키면 몇 번이나 제대로 끝내는지 그리고 제대로 끝난 일 하나에 실제로 얼마가 들었는지이 두 숫자가 올라가고 내려가고 하는 속도가 앞으로는 GPT랑 클러우드 제미나이의 차이를 훨씬 현실적으로 보여 줄 가능성이 높아 보입니다. AI 대화하는 시간이 늘어나는 거랑 내가 하던 일을 AI한테 실제로 넘겨 놓는 거는 또 전혀 다른 문제니까요. 그럼 오늘은 여기까지 패치였습니다.