5분 대화로 튜링 테스트 통과를 기준으로 보면 텍스트는 이미 달성했고, 음성은 앞으로 5~10년 걸릴 것으로 예상함. 데모는 멋지지만, 5분만 대화해도 인간으로 착각할 사람은 거의 없을 만큼 장애물이 남아 있음. 반면 인간을 사칭하도록 설정한 채팅 시스템은 이미 대부분의 경우 사람을 속일 수 있음.
직접 응답 모델링과 병렬 추론 등에서 크게 발전했지만 마지막 난관들이 거대함. LLM은 추론 시점 연산 없이 답할 때 훨씬 자주 멍청해 보이며, 그 연산만 고려해도 자연스러운 실시간 대화에 필요한 속도보다 아직 대략 10배 느림.
“LLM에는 엄청난 양의 텍스트가 필요하지만 Dessa는 수백 분의 일 수준의 단어만으로 언어를 배웠음. 물론 LLM은 C++과 대체 뭔지도 모를 Angular까지 배워야 하긴 함.”이라는 대목에서 웃음이 터짐. AI가 쓴 글의 비중이 커질수록 사람이 쓴 글이 점점 더 소중하게 느껴짐.
사람이 쓴 글이라고 그렇게 확신하지는 않겠음. 내 맞춤형 모델은 내 말투와 문체를 95% 수준으로 재현하는 결과를 안정적으로 낼 수 있음.
대화 예시도 인상적이지만, MacBook Pro M4 Max 이상에서 로컬 실행되고 NVIDIA GB200 NVL72 한 대로 학습했다는 대목에서는 감탄이 절로 나옴. 로컬 기기에서 정말 그 지연 시간과 표현력을 재현할 수 있다면 ‘인디’ AI로서는 엄청난 성과임.
Cartesia도 초기 데모 중 하나를 MacBook Pro에서 실시간으로 시연한 적이 있음. 여전히 매우 인상적이지만 전례 없는 일은 아님.
데모 음원을 몇 초씩 훑어보니 팟캐스트를 많이 학습한 듯한 소리임.
자극적인 제목으로 HN 첫 화면에 오른 뒤 운영자가 제목을 고치게 하는 행태에는 불이익을 줘야 할 듯함. ‘역대 가장 실감 나는’이 어떻게 마케팅 문구가 아닐 수 있겠음? 이 게시물뿐 아니라 최근에도 무리한 주장을 내세워 첫 화면에 오른 글이 여럿 있었음.
희곡이나 소설 속 대화도 학습한 듯함. 처음 1~2분을 들어보니 일부 답변이 극적인 연속극 대사처럼 지나치게 ‘완벽’하게 들림. 실제로 그런 자료를 썼을 수도 있겠음.
그래서 신고 기능이 있는 것임.
이런 전이중 음성 대화 데모는 늘 지나치게 인위적으로 느껴짐. 차례를 기다리지 않고 사용자와 동시에 말할 수 있는 건 멋지지만, 최대한 자주 끼어들도록 학습하는 건 올바른 방향이 아님. 첫 예시에서 “겨울”이라는 답 뒤에 나온 웃음이 정말 자연스럽게 들렸는지 궁금함. 왜 웃어야 했으며, 왜 사람이 문장 하나나 생각 하나도 끝내기 전에 모델이 끼어들어 혼자 떠드는 것인지 모르겠음.
실제 사람이 내 말을 끊어도 과하게 화가 나는데, AI 기술 지원 상담원까지 그러기 시작하면 의자를 집어 던질 지경일 것 같음.
이 댓글을 읽고 들어보니 예시 전반부의 Dessa는 술에 취했거나 적어도 약간 알딸딸한 듯한 소리임. 그래서 이상하게도 그 웃음이 납득됨.
OpenAI 고급 음성 모드도 바로 그 점 때문에 쓰기 싫어짐. 문장 중간에 “으흠” 하고 끼어들면 생각의 흐름이 완전히 끊김. 진짜 사람과 대화하는 느낌이 아니라, 정말 멍청하고 싫은 AI와 대화하는 느낌임.
인위적으로 목을 긁는 듯한 발성과 이상하게 섞인 억양·감정까지 갖춘 고객 상담 AI와 대화하는 건 정말 싫을 것 같음. 분명 사랑에 빠지는 사람도 있겠지만, 이런 의인화 자체가 소름 끼침.
요즘 전이중 음성 모델은 영화 Her를 점점 닮아감. gpt-live-1도 훌륭하지만 Dessa는 인간과 완전히 동등한 수준을 목표로 하는 듯함. AI 여자친구 시장은 엄청나게 크니 진지하게 살펴봐야 할 것임.
이미 그러고 있는 듯함. 세 번째 영상이 디스토피아적인 AI 여자친구였던 것 같음.
최근 음성 기술 대부분은 음성을 인터페이스나 상호작용 수단으로 사용함. 음성은 수단이고, 실제 가치는 그 뒤에 있는 추론 시스템이 제공함.
그런데 이 모델은 확실히 그다지 똑똑하지 않음. 따라서 음성 자체가 전부이며, 적어도 단독으로는 그 이상의 가치가 별로 없음. 결국 용도는 인간 사칭임.
모든 ‘인공’ 지능이 흉내 내기임.
말투가 조금 딱딱하고 이상하다고 생각했는데, 알고 보니 사람 쪽 발화였음. AI 가짜 아내와의 대화는 조금 소름 끼쳤지만, 이 기술이 실제로 어디에 쓰일지는 솔직하게 보여줌.
예시만 듣고는 AI인지 구별할 자신이 전혀 없음. 악의적인 누군가 이 기술로 전화를 걸어도 아마 알아채지 못할 것 같음. 아는 사람에게서 수상한 전화가 오면 둘만 공유하는 기억을 묻는 질문으로 확인할 계획임. 달리 막을 방법을 모르겠고, 이렇게 의심하며 살아야 하는 게 싫지만 어쩔 수 없음.
가능한 공격은 정말 많음. 소셜미디어에 올린 영상으로 목소리를 거의 완벽하게 복제한 뒤, SIM 탈취로 전화번호까지 가로채 도움을 요청할 수 있음. 가짜 납치극으로 몸값을 요구하거나, 보석금을 요청하거나, 운영 서버 설정을 바꾸라고 할 수도 있음.
대중에게 많이 노출된 사람, 특히 돈이나 권력이 있는 사람은 표적이 되기 쉬움. 이들을 사칭해 부하 직원에게 연락하면 손쉽게 사회공학 공격을 벌일 수 있음.
AI가 실제로 디지털 시스템을 조작하게 하려면 이런 음성 대 음성 모델도 결국 음성을 텍스트로 변환해야 하는 것인지 궁금함. 이 모델은 오디오 채널이 아닌 대상과 어떻게 상호작용함?
음성 모델도 텍스트를 통한 도구 호출이 가능함. OpenAI가 최신 모델들로 이를 시연했던 것으로 알고 있음.