자작 소설을 AI에게 읽고 분석하게 하기 5편 ~Sarashina에게 해석 맡기기~
요약
글쓴이는 자작 소설에 대한 AI의 독해 및 분석 능력을 테스트하며 다양한 LLM들을 비교했습니다. 특히 일본어 성능을 강조하는 Sarashina 모델과 기존 사용하던 Gemma4 12B 등 여러 모델의 결과물을 제시하고 평가합니다.
핵심 포인트
- Sarashina는 무료 API를 제공하며, 일본어 독해에 강점을 보임.
- AI가 소설 속 인물 간의 관계성이나 심리적 배경을 분석하는 능력을 테스트함.
- 다양한 LLM들이 깊이 있는 감상보다는 일반적인 서술에 그치는 경향을 보임.
지금까지 RAG 검색이나 로컬 LLM에 독해를 시키는 등 여러 가지를 해왔습니다.
자세한 내용은 여기를 참고하세요.
국산 풀스크래치 모델인 Sarashina가 무료로 공개되었습니다.
놀랍게도 일본어에 대해 엄청난 자신감을 가진 것 같습니다.
공식 웹사이트에서도 '일본어에 강함', '일본어 데이터셋으로 중점 훈련'이라고, 일본어 성능에 대해 상당히 강력하게 어필하고 있는 것을 알 수 있습니다.
그리고 은근히 좋은 점은 채팅뿐만 아니라 API도 무료라는 것입니다.
이건 해볼 수밖에 없습니다.
제가 계속 사용하고 있는 벤치마크인 자작 소설 감상입니다.
일본어에 강하다면, 지금까지 다른 AI들이 미묘했던 부분도 제대로 포착해 줄지도 모릅니다.
본질적이지 않으니 가볍게 붙여놓기만 하겠습니다.
참고로 꽤 오랜만에 직접 프로그램을 작성했습니다.
import requests
headers = {
"Authorization": "Bearer Sarashina의 API 키야",
...
이번에 AI에게 읽게 할 소설은 여기에 있습니다.
먼저, 『꿈』에 대해 평소 질문을 해보겠습니다.
질문 내용
소설 『꿈』에서 주인공 '나'와 히로인 '그녀' 사이에 연애 감정이 있었다고 생각하십니까? '나'와 '그녀'의 관계에 대한 서술을 참고하여, 당신의 고찰을 들려주세요.
이것을 보내자 8.6초 만에 답장이 왔습니다.
빠르네요. 수만 자가 있는데 정말 읽었는지 모르겠습니다.
질문 감사합니다.
소설 『꿈』에서 '나'와 '그녀'의 관계에 대해, 연애 감정 유무를 고찰하기 위해 본문의 서술을 바탕으로 정성껏 해석해 보겠습니다.
먼저, '나'와 '그녀'의 관계는 **어린 시절 비밀 기지에서의 공유 경험**을 핵심으로 형성되어 있습니다. 두 사람은 학교나 가정에서는 얻을 수 없는 '장소'를 그 작은 공간에서 쌓았습니다. 특히 '그녀'는 당시 '나'에게 **유일하게 있는 그대로의 자신을 받아주는 존재**였을 것으로 추측됩니다. 이는 다음과 같은 묘사에서 읽어낼 수 있습니다.
...
쓰레기네요.
지난번 gemma4 12B가 더 제대로 된 감상을 했었던 것 같은데...
확실히 지식은 있는 것 같지만, 독해력으로는 상당히 낮은 것 같습니다.
뭔가 이것저것 길게 이야기하고 있지만, 결국 결론을 내지 않고 얼버무리고 있고, 근거가 되는 장면의 발췌도 '여기인가?' 싶습니다.
자신의 독해력이 낮다는 것을 심리학의 어려운 화제를 꺼냄으로써 눈속임하는 느낌입니다.
성능에 불안감을 느끼는 결과가 되어 버렸지만, 다음 것도 해보겠습니다.
질문 내용
소설 『6월에 끝나는 여름』에 대해, 히로인 '사야'가 주인공 '카미조'를 배구 코치로 부탁할 정도로 신뢰하는 이유는 무엇일까요? 사야와 카미조의 성격이 드러난 묘사를 분석해 주세요.
이번에는 16초가 걸렸습니다.
결과가 이렇습니다.
질문에 답변드립니다.
소설 『6월에 끝나는 여름』에서, 히로인 **사야**가 주인공 **카미조**를 배구 코치로 부탁할 정도로 신뢰하는 이유는 작품 속에서 그려진 두 사람의 **성격이나 관계성, 과거 경험**으로부터 읽어낼 수 있습니다. 아래에 사야와 카미조의 성격을 보여주는 묘사를 바탕으로 분석하겠습니다.
---
...
뻔하네요...
지난번 gemma4에게 감상을 받아보았을 때 같은 감동은 느끼지 못합니다.
로컬 LLM에 지는 클라우드 모델이라니 정말...?
자, 이제 본론입니다.
이 질문에 대해서는 아직 어떤 AI도 제가 만족할 만한 답변을 만들어내지 못했습니다.
하지만 일본어 능력을 자랑하는 Sarashina라면 분명 독해해 줄 것입니다.
질문
소설 『개하』에서, 주인공 '이토'가 히로인 '쿠라타'에게 의존에 가까울 정도로 집착하는 이유는 무엇일까요? 이토와 쿠라타의 관계성이나 과거에 일어난 사건들을 바탕으로 고찰해 주세요.
답변 작성에는 13.6초가 걸렸습니다.
질문에 답변드립니다.
이토가 쿠라타에게 강한 집착을 품는 배경에는, **'자기 가치 투영'과 '과거의 좌절로부터의 구제 욕망'** 이 깊이 관련되어 있다고 생각됩니다. 아래에 두 사람의 관계성이나 과거 사건들을 바탕으로 고찰하겠습니다.
---
...
어?
나쁘지 않은데요?
뭐, 전혀 기대하지 않고 실행했기 때문에 그렇게 생각하는 것일 수도 있지만, 적어도 지난번 gemma에게 받은 결과보다는 조금 나은 느낌입니다.
특히, '쿠라타는 이토에게 자신을 재정의하게 해주는 존재이기 때문에'라는 말은 정말 흥미로웠습니다. 그런 식으로 표현할 수도 있군요.
참고로, 이토가 쿠라타에게 가졌던 집착 같은 감정은 클라이맥스에서 해소된 걸까요?
그렇게 완벽한 결말은 아니었던 것 같은데요.
그리고 '카나츠(解夏)'라는 제목이 단순히 '여름의 끝'이라는 의미만은 아닙니다. 이런 불교 용어가 있거든요.
글을 쓰면서 생각했는데, 저의 AI에 대한 기대치가 예전보다 상당히 인플레이션된 것 같아요.
예전에는 수만 자 분량의 글을 이해하고 있다는 것만으로도 칭찬하는 느낌이었는데 말이죠.
하지만 아직 제가 만족할 만한 감상문은 나오지 않네요.
국산 풀스택 모델의 더욱 발전하는 모습에 기대해 봅시다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기