이제 Claude Code가 코드를 사용해 제품 홍보 영상을 만드는 것은 어렵지 않지만, 시각적 요소는 조정할 수 있어도 자신이 만든 소리를
요약
프로그래밍 에이전트의 한계를 극복하는 'earshot'이라는 도구가 소개되었습니다. 이 도구는 소리를 AI가 이해할 수 있는 데이터로 변환하여, 영상 제작 과정에서 사운드 효과를 분석하고 수정 제안을 할 수 있게 합니다. 이를 통해 AI는 시각적 요소뿐 아니라 청각적인 부분까지 코드로 생성하고 조정하는 것이 가능해졌습니다.
핵심 포인트
- earshot은 프로그래밍 에이전트에 '청각' 기능을 부여합니다.
- 소리를 AI가 이해할 수 있는 텍스트/데이터로 변환하여 분석합니다.
- 영상 전체를 시간 단위로 분석하고 사운드 효과 수정 제안을 제공합니다.
- 로컬 CPU에서 실행되며 Claude Code 같은 에이전트 도구에 연결됩니다.
이제 Claude Code를 이용해 코드로 제품 홍보 영상을 제작하는 것이 어려워지지는 않았습니다. 시각적인 부분은 수정할 수 있지만, 자신이 만들어낸 소리는 들을 수 없기 때문에 오디오는 전적으로 운에 달려 있었습니다.
earshot은 프로그래밍 에이전트(programming Agent)에게 귀를 달아준 것과 같습니다. 소리를 AI가 이해할 수 있는 텍스트와 데이터로 번역해줍니다.
오디오 클립을 넣어주면, 기계식 키보드 키의 '딸깍'거리는 소리처럼 어떤 소리인지 설명할 수 있으며, 심지어 그것이 실제 녹음인지 코드 생성인지를 알려줄 수도 있습니다.
GitHub:
http://github.com/Leonxlnx/earshot
나아가 영상 전체를 초 단위로 들으면서, 시각적 요소와 동기화되지 않은 음향 효과(sound effects)가 무엇인지 표시하고, 7개의 전문 홍보 영상과 비교하여 점수를 매긴 후 타임스탬프와 함께 수정 제안을 제공할 수 있습니다.
이제 AI는 소리를 들을 수 있게 되면서 코드로 사운드 이펙트까지 생성할 수 있으며, 진행하면서 듣고 즉석에서 조정(tweaking)하는 것이 가능합니다. 해당 저장소에는 201개의 코드로 생성된 음향 효과가 저장되어 있어 숫자로 순식간에 만들어낼 수 있습니다.
작가는 블라인드 테스트를 진행했는데, 코드 생성 키 클릭음과 실제 녹음을 섞었더니, 15번의 시도 중 단 8개만 맞혔습니다. 이 결과는 저에게 정말 놀라움을 주었습니다.
이 도구는 전적으로 로컬 CPU에서 실행되며 Claude Code와 같은 에이전트 도구에 바로 연결할 수 있습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 X @github_daily (자동 발견)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기