이 기사에서 알 수 있는 것
- 최신 모델을 역할별로 어떻게 구분하여 사용하는지 (영상 속 개인적인 인상 기반)
- 스킬에 모델을 고정하는 이유와 어드바이저 구성의 사고방식
- 구조화 데이터를 반환하는 판정 특화 모델의 활용처와 주의점
※ 원 영상은 자동 자막으로 생성되었으며, 모델명이나 서비스명에 오인식이 있을 수 있습니다. 확신이 가지 않는 명칭은 일반 명사로 대체했습니다. 평가는 벤치마크가 아닌 출연자의 사용감입니다.
- 영상은 매월 정기적으로 진행되는 '최신 AI' 좌담회이며, 녹화는 9월 28일로 언급되었습니다.
- 화제의 중심은 Fable 5.1, Opus 5.5, Astra 세 모델과 판정 특화의 고속 모델입니다.
- 아래 내용은 '이렇게 사용하고 있다', '이런 인상이 있다'라는 발언을 정리한 것입니다. 본인의 환경에서 검증한 후 도입하시기 바랍니다.
영상 내에서 언급된 인상을 표로 요약합니다.
| 모델 | 적합하다고 언급된 용도 | 보충 설명 |
|---|
| Fable 5.1 | CTO 업무, PM 업무. 프로젝트 참여 직후 Git 등의 정보를 취합하여 전달하고 전체를 파악하고 싶은 상황 | 처리의 무거움이나 비용과의 균형이 논점 |
| ... | | |
-
3D 표현: 자사 사이트의 메인 화면에 있는 지구의 3D 이미지를 거의 한 번의 지시만으로 만들 수 있었다는 예가 있었습니다.
-
컴퓨터 조작: 브라우저나 앱의 조작이 이전보다 자연스러워졌다는 평가입니다. 영상 편집 소프트웨어의 조작도 가능했지만, 느리고 완벽하지는 않았다고 합니다.
-
디자인 툴 연동: 디자인 툴 화면상의 코멘트를 읽고 해당 부분을 잘라내는(클리핑) 작업까지 할 수 있게 되었다고 언급되었습니다.
-
번역: 일본어 사이트를 영어 버전으로 만들 때, 회사의 강점을 역산하여 영어 네이티브가 어색함 없이 표현해 주었다는 사용 사례가 나왔습니다.
-
많은 업무는 더 저렴한 모델로 충분하다는 의견이 있었습니다.
-
컴퓨터 조작에 대해서는 다른 벤더의 모델이 더 안정적이라는 목소리도 있었습니다. Claude 계열은 지시와 다른 미리 보기 화면에서 멋대로 조작하여 실패하는 사례가 언급되었습니다.
-
스마트폰 앱 애니메이션이나 UI는 ChatGPT 계열에 맡기고 있다는 이야기도 나왔습니다.
-
그 작업은 정말 비싼 모델이 아니면 할 수 있는가?
-
저렴한 모델로 시도해 보고, 품질 차이가 허용 범위인지?
-
속도(업무 시간이 늘어나지 않는지)와 비용 중 어느 것을 우선할 것인가?
-
조작 계열의 작업은 여러 벤더의 모델로 비교했는가?
영상에서는 다음과 같은 구성이 소개되었습니다.
- 작업은 Opus에 맡기고, 생각하는 부분이나 답변만 Fable을 사용한다. 그리고 이를 팀원 모두가 동일한 환경으로 맞춘다.
- 툴 측에 '어드바이저'라는 시스템이 있어, Fable을 지정하면 Opus가 어려울 때만 Fable을 호출하게 한다.
스킬은 사용하는 모델에 의존하기 때문에, 만들 때 모델을 고정하고 있다고 합니다. 스킬 내에서 사용할 모델을 지정할 수 있다는 설명이었습니다.
- 스킬을 만드는 시점에 사용할 모델을 결정한다.
- 스킬 쪽에 모델을 명시하여 고정시킨다.
- (보충) 모델이 업데이트되면, 스킬이 예상대로 작동하는지 재검토해야 한다.
3은 영상의 발언이 아니라 일반적인 운영상의 보충 설명입니다.
영상에서는 구조화 데이터를 빠르게 반환하는 판정 특화 모델(자막상으로는 '제브'로 들리는 표기)이 화제가 되었습니다. 명칭에 확신이 없으므로, 여기서는 '판정 특화 모델'이라고 부릅니다.
-
일반적인 LLM은 텍스트로 예상치 못한 형태가 반환되어 오류가 발생할 수 있지만, 구조화 데이터로 반환되므로 다루기 쉽다.
-
확률과 함께 결과가 반환된다.
-
빠르다 (1초 미만의 속도라는 발언도 있었습니다).
-
출연자 중 한 명은 거의 모든 스킬에 통합했다고 말했습니다.
-
스팸 메일 분류: 메일 내용과 선택지 목록을 전달하고, 그중에서 고르게 한다. 참/거짓 값으로 반환시키는 사용법도 있습니다.
-
컴퓨터 조작의 가속화: HTML을 전달하여 버튼 위치 등을 순식간에 분석하게 하고, 조작 속도를 높인다.
-
대량 에이전트에 의한 사전 검증: 수백 개의 에이전트에게 분석하게 하여, 사용자에게 보여주기 전에 A/B 테스트와 같은 것을 시도한다는 뉴스가 소개되었습니다. 판정 특화 모델을 넣으면 더욱 빨라진다는 이야기입니다. 실제 세상의 반응과 일치하는지는 영상 내에서도 의문이 제기되었습니다.
-
현재는 이미지를 전달할 수 없으므로, 이미지는 텍스트로 변환해야 한다.
-
내부적으로 어떤 모델을 사용하는지 불분명하여, 출연자 중 한 명은 아직 도입하지 않고 대기업들이 비슷한 것을 출시한 후에 사용하겠다는 자세였습니다.
-
분류의 선택지(카테고리)를 스스로 명확하게 정의할 수 있는지
-
출력 형식이 고정되어 있으면 도움이 되는 처리인지
-
입력이 이미지가 아니라 텍스트인지, 또는 텍스트화할 수 있는지
-
제공처의 실체가 불분명해도 대체 가능한 설계가 되어 있는지
-
대기업이 동종의 모델을 출시하는 데까지 3주가 걸릴지라도, 편리한 것은 즉시 도입한다는 생각이 소개되었습니다.
-
출연자는 이를 새로운 카드가 나오면 덱에 넣는 감각에 비유했습니다.
-
다른 각도에서 보면, 모델은 교체된다는 전제하에 스킬을 설계하는 것이 중요해집니다.
-
속도・저렴함・능력은 이미 높은 수준에 도달하여 놀라움의 폭은 줄었다는 견해였습니다. 하지만 여전히 진화할 여지는 있다고 언급되었습니다.
-
이전에는 '하나의 공정에 책임을 가진다'는 생각이 이야기되었지만, 이제는 세부적인 공정은 AI에게 맡긴다는 전제가 되고 있다는 이야기가 나왔습니다.
-
한편, 인간의 검토도 완전히 신뢰하기 어렵기 때문에, AI 쪽이 더 나을 때가 있다라는 의견도 있었습니다.
-
수학의 미해결 문제에 대한 화제에서는, AI가 풀었다 하더라도 그것이 맞다고 보장하고 검증하는 것은 인간이며, 그곳에 한계가 남아있다는 논점이 나왔습니다.
실무에 적용하면, 모델 선정, 스킬 설계, 출력 검증 기준 마련과 같은 영역이 엔지니어의 역량이 발휘되는 부분이라고 할 수 있을 것 같습니다.
본 기사는 YouTube 채널 '엔지니어 퍼스트'의 영상 내용을 기사로 재구성한 것입니다.
