
환각(Hallucination)을 일으키기 어려운 AI를 개인적으로 만든 이야기와 갑작스럽게 찾아온 위기
요약
개인용 AI 어시스턴트 'Kairi'를 개발하며 DeepSeek API를 활용해 환각 현상을 억제하는 설계 방식을 소개합니다. 프롬프트에 의존하는 대신 코드 기반의 검증 레이어와 정보원 계층화(Tiering)를 통해 데이터 신뢰도를 높이는 구조를 구축했습니다.
핵심 포인트
- 프롬프트가 아닌 후처리 파이프라인을 통한 기계적 수치 검증
- 정보원의 신뢰도를 4단계(Tier)로 분류하여 교차 검증 수행
- 위장 학술 도메인 탐지 및 주어·술어 연결 검증 로직 구현
- DeepSeek API 가격 인상 발표로 인한 운영 비용 위기 직면
개인 개발로 「Kairi」라는 자신만의 전용 AI 어시스턴트를 만들고 있습니다. 시장 분석·투자 지원·일상 대화 등, 자신의 생활에 밀착된 용도로 한정하여 DeepSeek API를 백본(Backbone)으로 구축해 왔습니다.
이번에 이 글을 쓰는 이유는, 8월 6일에 DeepSeek가 「가까운 미래에 API 가격을 광범위하고 대폭 인상할 것」이라고 공식적으로 발표했기 때문입니다. 아직 구체적인 인상 폭이나 실시일은 발표되지 않았지만, 이는 Kairi의 운영 비용 구조에 있어 솔직히 상당히 큰 위기입니다.
「왜 그렇게 저렴한 모델에 걸었는지」, 「왜 그것이 지금 흔들리고 있는지」를 설계 이야기와 함께 정리해 보고자 합니다.
개인 개발 AI 채팅에서 가장 자주 듣는 불만은 「그럴듯한 거짓말을 한다」는 점이라고 생각합니다. Kairi에서 처음부터 의식했던 것은, 이것을 프롬프트(Prompt)의 궁리만으로 억제하려 하지 않는 것이었습니다.
구체적으로 수행한 것은 크게 세 가지입니다.
투자·시장 정보를 다루는 이상, 수치의 환각 (Hallucination)은 치명적입니다. 그래서 fact_filter라는 검증 레이어(Layer)를 만들고, 다음과 같은 규칙을 코드 측에서 강제하고 있습니다.
- 모델이 제시한 수치·고유명사는 검색 결과의 스니펫(Snippet)과 기계적으로 대조한다
- 대조할 수 없는 것은 「미확인」 라벨을 붙여 출력한다
- 단일 소스의 숫자는 「확인 필요」로 취급하며, 복수 소스의 일치를 확인한 것만 확신도를 높인다
- 검색에 히트되지 않은 화제는 애초에 「쓰지 않게 한다」(채우지 않게 한다)
「프롬프트로 부탁하는」 것이 아니라, 응답 텍스트를 후처리 파이프라인(Pipeline)에서 기계적으로 검사하는 구조입니다.
「어느 정보원을 믿을 것인가」도 프롬프트에 의존하지 않고, source_evaluator.py라는 모듈에 계층으로서 구현하고 있습니다. 실제 분류는 다음과 같습니다.
| Tier | 내용 | 예 |
|---|---|---|
| Tier 1 | 공적·학술·1차 정보 | .gov / .go.jp / .ac.jp, nature.com, who.int, 공식 프레스 릴리스 |
| Tier 2 | 신뢰할 수 있는 주요 미디어·조사 기관 | Reuters, Bloomberg, Nikkei, WSJ, FT, Gartner 등 |
| Tier 3 | SEO 요약·큐레이션·블로그 | 요약계·속보계 사이트 |
| Tier 4 | UGC·개인 게시물 (1차 정보로는 사용 금지) | note, medium, 개인 블로그 등 |
모순되는 정보가 나올 경우에는 이 계층에 따라 채택할 정보를 결정합니다. 이에 더해, .edu.pl과 같이 세컨드 레벨(Second-level)에 edu가 들어가는 위장 학술 도메인 탐지나, 여러 주체가 혼재하는 기사에서의 주어·술어의 연결 검증(누구의 발언 수치인지 착오하지 않기 위한 처리)까지 코드로 수행하고 있습니다.
참고로 흥미로운 점은, 이 글을 쓰고 있는 Qiita 자신도 Kairi의 분류에서는 「UGC = Tier 4」에 들어가 있습니다. 1차 정보로는 인용되지 않는 입장입니다. 올바른 판단이라고 생각합니다.
뉴스나 시장 상황에 대한 답변은 대체로 다음과 같은 흐름으로 생성됩니다.
검색 (Brave/Tavily/Jina 등)
↓
소스 권위성 평가 (Tier 분류·위장 탐지)
...
룰 베이스(Rule-based)의 기계적인 필터링을 전후에 배치하여, 「AI가 자신의 판단만으로 최종 확인하는」 페이즈(Phase)를 최소한으로 함으로써 파탄의 여지를 줄이는 것이 목표입니다.
말로 설명하는 것보다 실제 대화를 보는 것이 빠를 것 같습니다. 「최대의 위기입니다. kairi의 운영에 관련됩니다. deepseek API의 대폭 인상이라고 합니다」라고 던졌을 때, Kairi 자신의 답변 일부입니다.
DeepSeek는 공식 통지에서 「가까운 미래에 DeepSeek API 서비스의 가격을 광범위하게 인상할 계획이며, 인상 폭은 커질 전망」이라고 발표했습니다. 현시점에서는 구체적인 실시일·금액은 미공개입니다.
(중략) 현시점에서 확정된 것은 「가까운 미래에 광범위하고 대폭적인 인상이 실시될 것」이라는 방침과 「피크 타임 2배 제도 도입 예정」까지이며, 실시일·최종적인 금액은 공식 발표를 기다리는 중입니다. 따라서 현 단계에서 정확한 비용 추산을 수행할 수는 없습니다.
내가 만든 AI 자신의 운영 기반이 흔들리고 있는 이야기를 하고 있는데, 그 AI 자신은 「아직 확정된 정보가 아니다, 단정할 수 없다」며 냉정하게 선을 긋습니다. 아이러니랄까, 의도한 대로랄까, 복잡한 기분이 들었던 순간이었습니다.
덧붙여 시장 상황 분석에서도 동일한 태도가 일관되게 나타났는데, 다른 날 「8/6 미국 시장은 어땠어?」라고 물었을 때의 답변에서는 다우 평균(Dow Jones Industrial Average) 하락률을 「-0.85%」라고 제시했습니다. 나중에 니혼게이자이 신문(Nikkei)의 보도로 사실 확인을 해보니, 실제 종가는 전일 대비 464.02달러 하락(-0.85%)이었으며 하락률이 정확히 일치했습니다. 이는 숫자를 「그럴싸하게 작문하는」 것이 아니라, 실제 데이터를 가져오고 있다는 하나의 사례라고 생각합니다.
위와 같은 검증 로직을 여러 겹으로 쌓는 설계는 호출 횟수가 늘어남을 의미합니다. 수치의 사실 확인, 복수 소스 대조, 사후 정합성 체크 등 하나의 답변을 내놓기까지 여러 번의 API 호출이 발생하는 것도 드문 일이 아닙니다.
이를 고가형 모델(Claude, GPT 등)로 수행하면 개인 개발의 운영 비용 측면에서 현실적이지 않게 됩니다. DeepSeek는 1M 토큰당 수십 엔이라는 가격대를 유지하고 있었기에, 「검증을 두텁게 한다」라는 설계 방침 자체가 성립할 수 있었습니다. 월간 운영 비용은 10달러 이하로 억제되어 있었으며, 이것이 Kairi라는 개인 프로젝트를 지속할 수 있었던 가장 큰 이유이기도 합니다.
즉, Kairi의 설계는 「저렴한 모델의 약점을 구조로 보완한다」뿐만 아니라, 「저렴하기 때문에 오히려 검증을 여러 겹으로 수행할 수 있다」라는 전제 위에 세워져 있었던 것입니다.
2026년 8월 6일, DeepSeek가 공식적으로 다음과 같은 통지를 발표했습니다.
가까운 시일 내에 DeepSeek API 서비스의 가격을 광범위하게 인상할 계획이며, 인상 폭은 커질 것으로 예상됩니다. 이용 계획을 조기에 검토해 주시기 바랍니다.
현 시점에서 파악된 점은 다음과 같습니다.
- 구체적인 인상 폭 및 실시일은 아직 미발표
- 피크 시간대(베이징 시간 9:00
12:00, 14:0018:00)에는 통상 가격의 2배가 적용되는 제도 도입도 예고됨 - 현행 가격(V4 Flash: 입력 $0.14 / 출력 $0.28, V4 Pro: 입력 $0.435 / 출력 $0.87, 모두 100만 토큰당)은 본래 75% 할인 프로모션 가격이 상시화된 것이며, 이번 인상은 그 토대 위에 추가로 더해질 가능성이 있음
- DeepSeek 창업자는 「경쟁사보다는 저렴한 가격을 유지할 것」이라고도 언급함
따라서 이번 위기에 대처하는 방식은, "대안이 준비되어 있으니 안심"이 아니라, "DeepSeek의 가격 동향을 주시하면서, 전용기(dedicated machine) 상태에서 벗어날 수 있는 새로운 대책을 고민해야 한다"는 것이 솔직한 심정입니다. 공식적인 가격 인상 폭이 발표되는 시점에 맞춰, 다른 프로바이더(provider)로의 전환을 실제로 시도해 보고, 검증 품질과 비용 양면을 확인하는 것부터 시작할 예정입니다.
개인 개발로 AI 프로덕트(product)를 만들 때, 백본(backbone) API 가격은 "주어진 전제"로 취급하기 쉽지만, 이번처럼 몇 주 단위로 가격 전략이 바뀌는 세계에서는 그 자체가 리스크 요인이 될 수 있다는 것을 뼈저리게 느꼈습니다.
마찬가지로 DeepSeek API에 의존하고 있는 개인 프로젝트를 가진 분들이라면, 남의 일이 아니라고 생각합니다. 공식적인 가격 인상 내용이 발표되는 대로, 실제 비용 산출과 그 이후 어떻게 움직였는지를 후속편으로 작성할 예정입니다.
소스는 MIT 라이선스로 공개하고 있습니다. 공개한 지 얼마 되지 않아 아직 스타(star)도 붙지 않은 상태지만, 최신 버전을 그대로 올려두었습니다. 버그 보고나 감상 등 무엇이든 환영합니다.
이 기사는 개인 개발 프로젝트의 기록입니다. 투자 조언을 목적으로 하지 않습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Qiita AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기