돈 내고 쓰는데 왜 막혀? AI한도의 진짜 이유

Video: 돈 내고 쓰는데 왜 막혀? AI한도의 진짜 이유
Channel: Money Comics
Duration: 23m 27s
Source: subtitle (auto, ko)
Transcript:
사실은 저는 좀 궁극적으로 궁금한게 있습니다. 해외에 사실 모델이 저는 항상 쓰다 보니까 굳이 우리나라 거를 써야 되나? 해외의 거를 쓰는게 더 쌀 거 같기도 하고 그게 더 잘할 거 같기도 하고 또 굳이 우리 거를 키우는 >> 좀 세팅을 해 주고 나면 코딩 에이전트가 저와 같이 페어로 일하는 개발자처럼 코딩을 막 해 줍니다. >> 그러면 SKT에서는 엄청 좋아하겠다. 왜냐면 인력에 한 주 >> 네. 근데 그게 그 >> 주는게 아니라 원플러스원이 되나 니다. 원플러스원 한 명이 두 명이 되는 거예요. >> 죄송합니다. >> 여러분 안녕하십니까? AI는 지금으로 돌아온 니입니다. 단독 MC로 니가 날마다 날마다 성장을 하고 있는데 왜 AI는 지금의 MC가 됐냐? 우리 회사에서 제가 제일 AI를 잘 씁니다. >> 아, 진짜요? 오, >> 제가 요즘에 AI 없으면 일을 못해요. 저희가 기사정리라든지 그리고 뭐 방송 준비라든지 다 AI랑 같이 하거든요. 제 비서예요. >> 그런데 꼭 급할 때 사용량 한도에 도달했습니다.

토큰이 아주 높고 있죠. 내 돈 내고 내가 쓰는데 왜 막히냐 봤더니 정답이 데이터 센터였다. 그래서 오늘은 두 분을 보셨습니다. AI를 가장 잘 쓰는 김덕진 소장님. 그리고 그 데이터 센터를 짓는 SK텔레콤의 이주 매니저님 오셨습니다. 어서 오십시오. >> 네. 안녕하세요. 반갑습니다. >> 복잡한 AI 기술 쉽고 재미있게 전달드리는 예, IT케이터 김덕진 소장입니다. 반갑습니다. 네. >> 네. 안녕하세요. SK텔레콤에서 AI 팩토리 개발을 담당하고 있는 이준입니다. >> 아, 주주요? >> 주주. >> 네. >> 아, 주주세요? 주주. >> 니와 주주 마찬가지. >> 아, 주주. 그럼 뭐 저는 덕하겠습니다. >> 어, 저 좋은데요. 니 주주덕. >> 니주덕. >> 자, 우리 덕님. 저희가 지금 벤지가 한 세 달이 넘은 거 같은데 사실 그동안 AI에 정말 수많은 변화가 있어서 이거를 데일리로 사실 업데이트해도 부족한 시간입니다. 요즘 AI 근황 좀 부탁드립니다. >> 네. 결국에는 이제 진짜 비서 에이전트 서비스로의 진화라고 말씀드릴 수 있을 것 같아요.

오픈 AI가이 다시는 서비스를 냈죠. 근데 그것도 다 에이전트 서비스예요. 근데 실은 저는 이제요 에이전트 서비스를 좀 써 보고 있거든요. >> 어때요? 이제 이렇게 말씀드리면 될 거 같은데 지금까지는 제가 먼저 입력을 했어야 됐는데 이제 제가 알아서 다 갖고 와요. 예를 들면 이메일이나 캘린 거 다 연결해 놓잖아요. 그러면 얘가 저 대신에 먼저 메일을 읽고 그다음에 저한테 얘기를 해요. 그래서 예를 들면 소장님 오늘 머니코믹스 가기 전에 기본적으로요 메일들 좀 답변해 주고 가셔야 됩니다. >> 이런 걸 먼저 막 보여 줘요. >> 진짜 말 그대로 비선네요. >> 예. 가는 시대가 렸다라고 생각이 됐는데 그전에는 그래도 제가 제가 시키는만큼만 얘가 쉽게 말하면 토큰이나 리소스를 썼단 말이에요. >> 근데 이제는 가만히 있어도 >> 끊임없이 토큰지가 >> 돌아요. >> 와 그러니까 내가 자고 있을 때도 얘가 먼저 스캐닝을 해서 내가 일어나면 딱 이거 이거 확인할 수 있게 정리를 탁 미리 해 놓는 >> 그죠. 그렇죠.

근데 그동안에 얘는 계속 토큰을 무진장 쓴다는 겁니다. 무진장. >> 매니저님은 어떤 거 쓰세요, 주로? >> 아, 저는 >> 여러 개를 씁니다. 그게 왜냐면 모델 >> 신흥 부자 신흥 부자 돈이 많아. >> 토큰 부자야. 토큰 부자 >> 모델이 다르나요? 그 슈카 님도 여러 개 쓰시잖아요. >> 거기 공짜로 쓰는 거고 >> 모델이 다르다 보니까이 AI가 내뱉는 산출물도 조금씩 다르거든요. 네. 이들이 생각하는 방식이 다르고 이제 내뱉는 답변이 다르다 보니까 한 AI를 써서이 AI의 결과물을 다른 AI한테 또 검증을 시키고 >> 또 다른 A한테 뭐 레드팀 같은 걸 만들어서 되게 날카롭게 검증을 해 줘. 이런 식으로 여러 개를 돌렸습니다. >> 그 돌렸쓴 결과 어떤게 가장 똑똑한 거 같아요? 지금 기준으로 말해도 되나 싶은데 저는 이제 클로드를 그 코딩을 하다 보니 >> 그죠? 그러면은 내가 썼을 때 아 이거 약간도 아깝다. 살짝 구리다 >> 그건 아 노코멘트 노트 화사를 받을 수 있어. 알겠습니다. 다 >> 좋습니다.

우리 주운 매니저님 같은 경우는 어 실제로 직장인으로서이 AI를 활용하는 거기서는 엄청 더 잘 쓸 수 있을 것 같아요. 어때요? 그 팀이나 회사에서 AI를 활용할 때 얼마나 더 지금 효율적으로 사용하고 있는지. 사실 일상에서도 이제 AI를 굉장히 많이 활용을 하는데 특히 현업에서 많이 활용을 하고 있거든요. 예를 들어 저 같은 경우에는 크게 이제 리서치나 코딩 쪽에 많이 활용을 해요. 저는 이제 엔지니어링을 하는 사람이다 보니까 리서치 같은 경우에는 기존에 제가 검색 엔진을 통해서 직접 공식적인 문서나 아니면은 논문들을 리서치해서 제가 알아야 되는 도메인에 대한 지식들을 다 정리를 했었어야 됐는데 이제 AI한테 시키니까 알잘 딱갈센으로 이렇게 딱 정리를 해서 문서로 딱 준단 말이에요. >> 그럼 그동안 저는 생산성 이렇게 다른 업무에 집중을 할 수 있는 거예요. 그래서 그 생산성이 굉장히 높아졌고 이제 두 번째로 코딩을 좀 말씀을 드리면 사실 작년까지만 해도 코딩을 제가 한 줄 한 줄 적어야 되는 경우가 좀 많았습니다.

프롬프트를 입력해서 답변을 주는 거를 기반으로 코드를 직접 짰다면 이제는 제가 전체적인 설계나 세부 설계를 해 줘서이 코딩 에이전트가 충분히 방향성을 가지고 실행력을 가질 수 있게 좀 세팅을 해 주고 나면 코딩 개발자처럼 코딩을 막 해줍니다. 그러면 SKT에서는 엄청 좋아하겠다. 왜냐면 인력이 한 명 줄. >> 네. 근데 그게 그냥 니다. 원플러스 한 명이 두 명이 되는 거예요. 두 배로 >> 죄송합니다. 원플러스 >> 기존에 팀이 하던 업무의 생산량에 이제 막 몇 배씩을 산출해 낼 수 있으니까. 근데 최근에 이제 저희 조직 SK텔레콤에서 이제 AX라고 해서 이제 AI를 적극적으로 도입하게끔 많이 좀 변화를 전환을 했거든요. >> 저기 사장님도 그렇고 AX 관련해가지고 거의 전사적으로 하는 걸 뉴스 기사로 봤어요. 네네. AX가 엄청 활발이 진행되고 있는데 저 같은 경우 이제 코딩 에이전트를 저에게 좀 커스터마이징해서 만드는데 이거를 개인이 만들어서 쓰는 거에서 끝나는게 아니라 결국에는 조직의 생산성을 높여야 되잖아요.

그러면 조직의 그 워크플로우에 맞게 개인의 에이 에이전트도 조직에 뿌려야 되는데 그걸 공유하는 문화나 아니면은 뭐 회사 자체에서 지원하는 문화가 굉장히 잘 되어 있다. 근데 사실 AX가 AI 트랜스포메이션인만큼 전환에 있어서는 사실 처음부터 바로 전환을 들어가기 쉽지 않잖아요. >> 그래서 최근에 이제 사장님께서 이제 서울대 특강에서도 말한 AX제 J커브라는게 있는데 J제이커브. 그래서 제일을 이렇게 그려보면 처음에는 이렇게 살짝 침체기가 온 다음에 이렇게 쭉 올라가잖아요. 그러니까 AX를 처음에 도입을 하게 되면 저희한테 커스터마이징을 하기 위한 데이터도 넣어 줘야 되고 설계도 해 줘야 되고 이게 제대로 돌아가고 있는지 검증도 해야 되니까 오히려 시간이 뭐 50시간 걸리던게 100시간씩 걸리기도 하는 거예요. >> 맞아. 맞아. 완전 인정. >> AI를 못 믿는 거죠. 처음에는. >> 아 근데 초기 세팅이라든지 이라든지 이런게 들다 보니까 이게 제대로 하고 있나? 내가 원하는 방향으로 실행을 하고 있나 이런 걸 체크해야 되니까 그래서 그 침체기 약간의 불편함의 골짜기가 약간 발생을 합니다.

근데 그 침체기를 겪은 조직만이 이제 급격한 생상성을 일뤄낼 수 있다라고 해서 AX >> 아 그럼 궁금한게 거기는 토큰을 무제한으로 혹시 복지로 제공이 되나요? 토크 무제하는 정말 쉽지 않은 일인데 충분히 지원을 해 주셔 가지고 사실 저희가 현업에서 업무할 때 토큰 사용량도 한 개에 도달한다는 알름을 거의 받지 않아요. >> 와 진짜 이게 이제 복지의 시스템이 식비 이런게 아니고 토큰으로 좀 바뀔 것 같다. >> 토큰 너무 감사합니다. 저희 같은 경우는 어 저희 회사에 디스하는 건 아니지만 저희 사장님 같은 경우는 이제 여러 가지 플랫폼을 쓰시는데 이제 무료 >> 알죠 무료를 쓰다 보니까 >> 무료를 쓰다가 한도 다 되면 다르네요. >> 한 다섯 개 질문하면 끝나거든요. 예. 그렇기 때문에 이제 개인적으로 결제를 하고 있는데 저희도 빠르게 좀 도입을 해야 될 것 같다는 좀 생각이 들고 예, 말씀을 듣다 보니까 이제는 직장인들이 1인분을 해야 되는게 아니고 원플러스원 거의 5인분을 해내야 직장에서 좀 만족을 할 것 같다 이런 생각이 들어서 좀 무섭기도 하네요.

근데 그런 관점에서 우리가 좀 생을 전을 해야 될게 5인분을 그럼 내가 정말 능력이 다섯배가 돼서 5인분을 하냐가 아니고 저는 요즘에 AI을 쓰면서 느끼는게 진짜 이제 위임을 할 수 있는 수준이 됐다라는 생각이 들어요. 근데 그 위임이 그러면 다시 키고 우리가 노는 이런게 아니라 AI한테 우리가 회복에 시키고 그 하는 동안에 우리는 고칠 거 가이드를 생각할 수 있는 확장이 됐다는 거예요. 그래서 이런 것들을 이런 바바 이제 요즘에 에이전트 보스라고 표현을 많이 하죠.이 이 AI에 대해서 내가 써보고 그 안에서 실제로 내가 할 것, AI가 할 거 나눠보고 내가 기본적으로 확인할 수 있는 여러 가지 요소들 그니까 결국엔 나만의 AI 조직 세팅을 하는게 되게 중요한 거 같고요. 그런 관점에서 진행이 되면 결국에는 우리는 토큰만 많이 주면 된다. 이런 식으로 가게 되는 거죠. >> 그렇죠. 결국 이슈는 토큰이다. 사실 3주 전인가요? 오픈 AI가 또 굉장히 비싼 요금제를 또 내놓고 신규 가입을 또 막았다.

그런 얘기들이 있었어요. 그래서 얼마나이 토큰이 부족하면 돈을 지금 벌어도 시원차는 판에 돈을 안 벌겠다라고 선언을 한 거잖아요. 또 구글도 사실 뭐 뭐 이런 사용량을 제안했다는 얘기도 있는데 이게 진짜 서버가 모자라서인지 아니면 우리 그렇게 쉽지 않아. 그니까 우리한테 낚시를 하는 건지 좀 궁금하더라고요. >> 낚시라고 볼 순 없어요. 오히려 지금 저는 AI 속도론조차도 AI 데이터 센터에 부족해서 나온다고 생각하는 거예요. 훨씬 더 빨리 갈 수 있는데 소프트웨어적인 속도를 하드웨어가 못 따라가는 거예요. >> 왜냐면 이제 모델이라고 하는 건 AI끼리 아이디어면서 막 시간을 써서 할 수 있잖아요. 그런데 데이터 센터는 누군가가 지어야 돼요. >> 아 물리적인 뭔가가 있어야 >> 물리적으로 지어야 되잖아요. 지브하만 짓는다 그래도 시간이 걸리잖아요. 근데이 데이터 센터라는 걸 짓기 위해서는 어마어마한 전기 그리고 또 그 안에서 베테랑들이 들어가서 셋업을 해 줘야 되고 그 하나하나의 데이터 센터 연결하는 거 자체가 힘이에요.

그런 데이터 센터들이 몇 동이 지어져야 되니까 결국 여기서 지금 병목이 다 오고 있다. >> 아 그럼 사실 이때까지는 뭐 클로드냐 뭐 채집비티냐 재미나냐 이런 싸움이었는데 최근엔 데이터 센터 뉴스가 더 많이 나오는 거 같아요. 그래서 전기를 어싸움인 거 같은데 각자 글로벌 플랫폼들은 어떤 식으로 좀 확보를 하고 있나요? >> 실제로 이제 말씀하신 대로 대부분의 그 글로벌 AI 회사들이 그 안에서 자체적으로 데이터 센터를 만들거나 아니면 그 다양한 형태의 우리가 말하는 하이퍼스케일 회사들과의 제유를 통해서 만들어내고 있죠. 그래서 구글 같은 경우는 데이터 센터를 가지고 있잖아요. 근데 최근에 좀 재밌는 얘기가 들리는게 구글 자체에서도 데이터 센터에 대해서 모자른 고민들을 하더라고요. 본인들이 가지고 있는데도. >> 걔네도 모자라요. >> 예. 이게 무슨 말이냐면 구글은 두 가지를 다 하잖아요. 클라이언트들에게 데이터 센터를 빌려 주는 것도 하고 >> 자체적으로 자기네들이 AI 모델을 키우는데도 해야 되잖아요.

그런데 본인들 모델 키우는데도 바빠 죽겠는데. >> 예. 근데 이제 단네들이 막 돈 주고 사가니까 그런 부분에 있어서 정말 이거 어떻게 해야 될까라고 할 정도로 계속적으로 얘기가 나오고 있고 정말로이 데이터 센터에서 그 우리가 말한 빅테크들조차도 되게 고민을 하고 있다 이렇게 좀 말씀드릴 수 있을 것 같습니다. >> 제가 알기로는 SK텔레콤도 AWS 아마존과 같이 협업을 하는 걸로 알고 있거든요. >> 맞아요. 저희가 AWS랑 협업을 해서 이제 울산의 데이터 센터로 지금 계획하고 있고 >> 그걸 보고 SKT의 텔공을 네주로 >> 너무 잘 글로벌적으로도 그렇고 한국도 그렇고 사실 주민분들의 그런 우려 때문에 이제 데이터 센터 개발이 늦어지는 지연되는 경우도 상당히 좀 >> 요즘에 그 뉴욕도 그렇고 정치적으로도 굉장히 이슈가 많이 되더라고요. >> 네. SK 같은 경우는 울산시랑 협력을 해서 뭔가 지역 청년 취업을 뭔가 연계하는 모델을 세운다거나 아니 말씀하신 것처럼 인력이 엄청 필요하잖아요. 그런 인력 양성 데이터센터 운영이나 그 안에 들어가는 시스템을 운영하는 인력 양성에 좀 상생 구조를 좀 만드는 쪽으로 부가 가치를 도달하고 있다.

이분 월급을 두 >> 제 그 생각했 5년 안에 제가 볼 때 이원 술술하시는데 앞서서 얘기 주신 대로 진짜이 데이터 센터라는게 그냥 뚝딱 한다고 지어지는게 아니잖아요. 그러니까 거기에 있어서 정말로 다양한 경제적 효과가 있을 수밖에 없어요. 지금 얘기해 주신 것처럼 예를 들면 100MW급 AIDC 기준으로만 봐도 몇 개 이제 그 기관들에서 좀 조사한 내용들 좀 분석을 하면 결국엔 생산 창출 효과가 3.5조 5조. 그리고 또 이제 고용 한 명당이 간접 파생 교육이 고용이 한 2.5명에서 4.5명. 그러니까는 한 명을 딱 고용했을 때 그 안에서 파생되는 영향이 한 다섯 명 수준까지 될 수 있다는 거죠. 그리고 그뿐만 아니라이 1달러 투자할 때마다 2.1달러의 추가 부가 가치가 좀 이제 발생된다 이런 데이터 분석들이 있다 보니까 그 부분에서 결국엔이 AIDC라고 하는게 단순히 하나의 기업을 위한 산업이라기보다는 그 지역 전체를 위한 산업으로도 커진다. 이런 얘기도 좀 들 수 있을 것 같습니다. >> 아, 그러면은 좀 궁금한게 그 데이터 센터 하면은 우리나라에 또 통신자들도 많이 있지만 SK 텔레콤에서 또 굉장히 크게 하고 있는 걸로 알고 있고이 뛰어들게 된 이유가 뭐 결국에는 우리나라에서 일장을 먹겠다.

아니면 글로벌과 경쟁을 하겠다. 어떤 취지인지 좀 궁금하더라고요. >> 네. SK가 사실 그룹의 역량이 있잖아요. SK 그룹에 있는 관계사들의 역량을 결합해서 이제 AI 산업 내 한국 그 AI 산업을 성장시킬 수 있는 핵심 성장 기반으로서 인프라를 깔겠다라는 좀 취지고 각각 이제 역량을 좀 AI 데이터 센터 구성 요소에 맵핑을 해서 말씀을 드리면 데이터 센터는 이제 건축 빌딩이 필요하잖아요. 건설 쪽은 SK 에코플랜트가 역량을 가지고 있고 그 안에 들어가는 서버 인프라 이제 반도체 관련해서는 >> 하이닉스 >> 대하이닉스네 들어가 있고요. 또 에너지 같은 경우에도 SK 이노베이션이나 SK 이제 가스가 연결되어 있고 그리고 이제 냉각이 필요해요. 서버가 막 열을 내다 보니까 냉각에서는 SK M무브 쪽 그리고 데이터 센터 운영력은 SK 브로드밴드 굉장히 많죠. 예. 그리고 아직 끝나지 않았습니다. SK에 이제 대규모 인프라를 구축하고 설계하는 설계자 역할에서는 텔레콤이 있어서 각각의 영량을 어떻게 결합해서 실행 속도를 높일 수 있느냐를 이제 텔레콤이 좀 전두시를 한다라고 보시면 됩니다.

처음부터 끝까지 다 하시네요. >> 아, 네. 네. 네. A, Z부터 한다라고. >> 아니, 근데 SKT가 사실 데이터 센터의 진심이라는 거는 이제 저도 너무나 잘 알고 있는데 최근에 뭐 하이퍼, 호라이진 이런 식으로 또 회사를 아예 설립을 했더라고요. >> 네. 이게 뭐 어떻게 다른 거예요? SK 하이퍼랑 호라이진이 올해 출범한 SK텔레금 자회사거든요. 근데 SK 하이퍼는 신규 데이터 센터 설립을 위한 부지나 건설 아니면 전력 냉가 이런 기반 시 시 시 시 시설들을 설립하는 그리고 또 신규 데이터 센터를 개발하거나 투자하는 역할을 맡게 되고요. 이제 호라이즈는 그 기존 운영되고 있는 데이터 센터를 좀 안정적으로 운영할 수 있는 역할을 하게 되고 그럼 이제 SK텔레콤이 자회사잖아요. 그럼이 두 축을 연결하는 컨트롤 타워가 SK텔레콤이다. 음. >> 그러니까 이쪽 분야가 진짜로 돈이 많이 들어요. 이거를 꼭 얘기를 해야 돼요. 왜냐면 땅 사야 되고 시스템 구축해야 되잖아요. 좀 비유를 해 드리면 실제로 아까 우리가 빅테크 얘기 좀 했는데 미국 빅테크네 곳이 올해 설비 투자에만 7,억 달러를 넘게 썼어요.

7,억 달러를 >> 근데 그게 작년보다 70% 넘게 썼어요. 물과 전기 요금이 좀 싸져야 되긴 하겠네요. 기업 입장에서는. 그렇죠. 그렇죠. 그리고 결국에 전력이라는게 저희가 토큰을 얼마나 사용하냐에 좀 비례한다고 좀 볼 수 있잖아요. 그래서 요새는 이제 토큰을 좀 효율적으로 적은 전력으로 많은 토큰을 낼 수 있는 그런 솔루션들도 많이 나오고 있어요. 되게 지표 이제 SK에는 그런 전력 효율적으로 사람들에게 토큰을 제공하기 위한 AI 팩토리라는 것도 지금 진행을 하고 있어 설계하고 있어서 >> 결국에는 인퍼런스 소프트웨어나 아니면 그 클라우드 플랫폼 위에 올라가는 이제 운영을 통한 효율이나 아니면은 소프트웨어를 통한 효율이나 그런 거를 다 튜닝해서 제공하는 AI 팩토리도 지금 설계 중에 있습니다. 그러면은 이게 제가 궁금한 거는 저희 주주들은 돈이 돼야 되다 보니까 어 그래 너무 좋은 일 하고 있는 거 알겠어. 그래서 매출이 진짜 나오냐라고 찾아보니까 일단 매출이 나오긴 하더라고요. 그래서 이게 점점 확대가 될 예정인데 아까 소장님 말씀 주신 대로 초기 투자 비용이 너무 많이 들다 보니까 이게 실제로 언제 돈으로 이어질지도 좀 궁금하더라고요.

사실 초기 투자 규모가 되게 천문학적이라고 하잖아요. 인류 역사상 이렇게 큰 규모로 투자를 하는게 없다라고 할 만큼. 그래서 이제 SK 같은 경우에는 단순히 SK 자체적인 투자를 하는 것뿐만 아니라 보통 이제 장기 계약 기반으로도 돈을 좀 수요를 조달을 하고요. 그다음에 뭐 프로젝트 파이낸이나 전략적 투자 파트너를 찾아서 진행을 하게 되는데 실질적으로 이게 사업으로 이어지고 매출로 이어지려면 사업 방향이 저희는 이제 두 가지로 이어지게 되는데요. 저희 같은 경우 첫 번째가 AI 특화 코로케이션 그리고 두 번째가 AI 컴퓨팅 클라우드 사업으로 이어지게 됩니다. 그래서 첫 번째 코로케이션은 뭐냐면 이제 데이터 센터를 건설하고 그 안에 부지 전력 시스템을 다 넣어 놔요. 그리고 고객한테 GPU는 가져오세요. 그러니까 공유형 데이터 센터인 거예요. 자리를 드리겠습니다. 지을 필요가 없잖아요. >> 오 월세에 달라는 거. >> 네. 그 그런 느낌이죠. 클라우드 사업은 그대로 GPU꽂을 GPU를 사세요. GPU를 통으로 사든 아니면 GPU 단위로 사든 아니면 그 위에 올라가는 저희가 소프트웨어를 만들어서 소프트웨어 단위로 사든 그 사업 두 가지를 지금 계획하고 있고 결국에는 고객의 수요 기반으로이 사업이 활발하게 진행이 된다면 투자를 한 걸 다시 이제 조달할 수 있지 않을까?

제가이 코로케이션 사업이 진짜 우리나라에 잘 맞을 것 같다는 생각이 들어요. 지금 왜 여기서 이슈가 되냐면 보완이에요. 보완. 그러니까 우리가 지금 AI를 기본 클라우드에 올려서 쓸 수 있는 것도 있지만 예를 들면 금융이든 학교든 아니면은 뭐 국방이든 이런 항상 걱정을 하는게 우리가 혹시나이 데이터가 외부에 나가면 어떡하냐라는 것 때문에 자체적인 그 서버를 구축하려고 하거든요. 근데 여기서 다른게 예전에는 그래서 정말로 사무실에 서버 컴퓨터를 설치해 놓은 애들 많아요. >> 예. 왜냐면 그렇게 해도 그래도 전력이 해결이 되니까. 네.근에는요. 사무실에다가 진 AI가 데이터센터 구축해 전원잖아요. 저희 사무실이 정전이 됩니다. >> 전기가 모자라요. 우리나라에서 항상 보안에 대한 걱정을 하는 회사들이 많은데 그런 회사들이 이런 코로케이션 기반의 서비스를 쓴다 그러면 되게 피 잘 맞을 것 같다. >> 그러면은 구체적으로 그 고객들이 빅테크도 있겠지만 우리나라에도 이런 거를 필요로 하는 회사들이 실제로 많이 있다는 거죠.

많이 있죠. 왜냐면 저희가 국내 기업들이 AI를 사용을 할 때 똑똑하게 사용을 하려면 좋은 성능의 칩을 인프라를 써야 되잖아요. 그런데 글로벌 해외 데이터 센터들 같은 경우에는 빅테크들이 이미 장기 대규무 계약을 다 체결해 버리니까 리소스가 부족한 거예요. 그러면 이제 국내 데이터 센터에 있는 칩을 찾아야 되고 인프라를 찾아야 되는데 저희가 만약에 미리 AI 데이터 센터를 구축해 놓고 그런 컴퓨팅 클라우드 사업을 진행을 한다면 빌렸을 수 있으니까 굉장히 좋죠. >> 어 그러면 고객들은 확보가 되어 있다 이렇게 보면 되겠죠. >> 그렇죠. 잠재적인 고객 확보도 지금 >> 네. 사실 이제 뭐 SK 텔레콤 얘기도 많이 했지만 사실은 저는 좀 궁극적으로 궁금한게 있습니다. 해외 사실 모델이 딱 저는 항상 쓰다 보니까 굳이 우리나라 거를 써야 되나 뭐 그런 의문도 있고 해외 거를 쓰는게 더 쌀 거 같기도 하고 그게 더 잘할 거 같기도 하고 >> 실제로 저희 이제 AI 산업 종사자로서 좀 말씀을 드리면 국내 이제 공공이나 의료 금융 국방 이런 사업을 진행을 할 때 해외 데이터 센터나 해외 모델을 사용할 수 없는 그런 규제들도 사실 있어요.

그게 결국에는 데이터 주권 뭐 쏘린 AI 어 우리가 보안을 통제할 수 있느냐 이런 점에서 해외 모델 사용보다 국내 모델이 꼭 필수적으로 이제 진행이 되고요. 이제 해외에 좀 의존을 하다 보면 해외에 뭔가 정책 규제가 있거나 수출 규제가 있거나 >> 갑자기 한국에 안주일 수도 있니까 >> 그죠. 서비스가 중단되거나 갑자기 막 GPT를 쓰다가 갑자기 서비스가 중단이 돼요. 그런 부분에 있어서 유연하게 대응이 어렵잖아요. 결국에 이제 국가 경쟁력이나 저희 AI 국가 산업을 좀 위해서는 국내 모델을 써야 되지 않을까? >> 음. 그러면은 저희가 데이터 센터 얘기를 많이 해봤는데 사실 저는 또 주주라서 또 유난히 그런지 모르겠는데 한국의 데이터 센터 하면 또 SKT DC가 생각이 나기는 하더라고요. 근데 우리 회사가 이걸 잘한다. 그런 특정 좀 소개해 주실 수 있을까요? 우선 저희가 작년에 이제 해인 클러스터라고 해서 독자 파운데이션 모델 있잖아요. 그 MW씨 오셔 가지고 봤던 그 이게 이제 독자 파운데이션 모델을 쓰는 기업들이 이용하는 인프라 단닐 클러스터거든요.

그 B 기반으로 천장 이상 규모의 단일 클러스터를 구축을 했었어요. 그만큼 이제 대규모 인프라를 구축하고 운영하는 역량을 가지고 있다라는 점에서 첫 번째고 이제 두 번째 같은 경우에는 저희 SK텔레콤이 또 독자 파운데이션 모델도 만들었지 않습니까? 네. A덱스, K1, K2를 만들었고 실제로 AIDC 사업자로서 제공하는 입장도 있지만 AIDC를 이용하는 고객의 입장에서 모델을 만들고 또 저희가 이제 올해 이제 가동되기 시작하는 AI 서비스 중에 모두의 AI라는게 있는데 >> 결국에는 학습과 추론을 다 할 수 있는 기업이다 보니 >> 여러 관점에서 볼 수 있는 거예요. 각자의 노하우가 있는데 AIDC 사업자로서 고객이 어떤 걸 원하는데 니즈를 확실히 파악할 수 있으니까 그런 점에서 좀 영향이 있다. SK텔레콤이 결국에는 클라우드 플랫폼부터 이제 운영, 인퍼런스 소프트웨어, 그리고 메모리까지 풀스택으로 제공을 하는 계획을 세우고 있습니다. >> 아, 그러니까 A부터 Z까지 우리는 다 가능하다. >> 다 된다.

아, 좋긴 하네. 예. 설득이 좀 됐습니다. 아 어쨌든이 우리나라에서도 지금 데이터 센터가 글로벌하게 지금 굉장히 이슈가 많이 되고 있는데 우리나라에서도 좀 든든한 데이터 센터 하나 있어야겠다. >> 하나로 안 됩니다. >> 여러 개 있어야게 있어. >> 자 오늘 이렇게 AI 데이터 센터 관련해 가지고 아 전문가 두 분을 모시고 얘기를 하니까 제가 그동안 궁금했던 것들이 아주 속시원하게 풀어졌는데 자 오늘 또 여러분 재밌게 들으셨죠? AI 데이터 센터 어 확실히 있어야 된다라는 생각이 많이 듭니다. AI 산업의 미래를 한번 기대를 해보면서 오늘 AI는 지금은 여기까지 하도록 하겠습니다. 감사합니다. >> 감사합니다. >> 안녕.