당신의 LLM은 고장 난 것이 아닙니다. 단지 당신의 인프라가 도움을 요청하며 울부짖고 있을 뿐입니다. 통계에 따르면 AI 프로젝트의 약 88%가 디지털 무덤으로 향하는데, 그 이유는 이들을 하나로 묶어주는 '하네스 (Harness)'가 잠수함에 달린 방충망보다도 얇기 때문입니다. 만약 당신의 에이전트 (Agent)가 환각 (Hallucination)을 멈추고 제대로 작동하기를 원한다면, 모델 가중치 (Model weights)에 집착하는 것을 멈추고 더 나은 하네스를 설계하기 시작해야 합니다.

'하네스 (Harness)'란 정확히 무엇인가?

이렇게 생각해보세요: 에이전트 (Agent) = 모델 (Model) + 하네스 (Harness). 모델은 화려한 토큰 (Tokens)을 생성하는 두뇌이지만, 하네스는 모델이 벽에 부딪히지 않도록 유지해주는 신경계입니다. 하네스는 컨텍스트 (Context), 도구 접근 권한 (Tool access), 메모리 지속성 (Memory persistence), 그리고 에이전트가 무한한 비용 생성기가 되는 것을 방지하는 무서운 루프 (Loop)를 결정합니다. 두 팀이 동일한 모델을 사용할 수 있지만, 한 팀이 더 나은 하네스를 가지고 있다면 그들이 승리합니다. 이는 마치 잔디깎이 기계에 Ferrari 엔진을 장착하는 것과 같습니다. 물론 엔진은 훌륭하겠지만, 당신은 여전히 시속 200마일로 잔디를 깎고 있을 뿐입니다.

제어의 해부학 (The Anatomy of Control)

당신의 에이전트가 카페인을 과다 섭취한 유아처럼 행동하는 것을 막으려면, 하네스는 다음과 같은 영역들을 처리해야 합니다:

• 컨텍스트 조립 (Context Assembly): 모델은 모든 것을 볼 수 없습니다. 모델이 무관한 데이터에 질식하지 않도록, 무엇을 입력할지 결정하는 데 이를 사용하세요.
• 도구 커넥터 (Tool Connectors): API를 건드릴 수 없는 모델은 그저 미화된 챗봇일 뿐입니다. 모델이 파일 시스템 및 서비스와 상호작용할 수 있게 하세요.
• 메모리/상태 (Memory/State): 사용자의 선호도를 기억할 수 있는 방법을 제공하여, 5분마다 "당신은 누구십니까?"라고 묻지 않게 하세요.
• 제어 루프 (The Control Loop): 이곳에서 로직이 발생합니다. 모델은 관찰하고, 행동하며, 목표를 확인해야 합니다.
• 가드레일 (Guardrails): 제발, 모든 신성한 것들을 위해, 에이전트가 실수로 운영 데이터베이스(production database)를 삭제하는 일을 막으세요.
• 텔레메트리 (Telemetry): 측정할 수 없다면, 고칠 수 없습니다. 사용자가 불평할 때 당황하지 않도록 실패 사례를 로그로 남기세요.

형편없는 스택은 거부한다

첫날부터 처음부터 거대한 맞춤형 시스템을 구축하려고 하지 마세요. 대부분의 팀은 다음의 3가지 조합으로 번창합니다:

1. 빌드 (Build): 바퀴를 다시 발명하는 일을 멈추기 위해 LangChain이나 LlamaIndex와 같은 프레임워크를 사용하세요.
2. 실행 (Execute): 힘든 작업을 자동화하기 위해 n8n과 같은 코딩 또는 워크플로우 하네스(harness)를 사용하세요.
3. 정상 여부 확인 (Sanity Check): 당신의 AI가 그저 지어내고 있는 것이 아닌지 확인하기 위해 Promptfoo나 Braintrust와 같은 평가 프레임워크를 사용하세요.

실제 작동하는 작은 하네스

AI가 과제를 수행하는 데 실패할 경우 실제로 릴리스를 차단하는 이 기본적인 로직을 확인해 보세요. 로컬에서 이 과정을 통과할 수 없다면, 운영 환경(production)에 배포해서는 안 됩니다.

from time import perf_counter

class LLMHarness:
...

저 fake_llm을 실제 모델로 교체하기만 하면, 쓰레기 같은 코드를 배포하는 것을 방지하는 운영 수준(production-grade) 하네스의 시작점을 갖게 됩니다.

참고 문헌

참고 문헌

• AI Harness Engineering: The Layer That Makes Your LLM Applications Actually Work
• LangChain
• LlamaIndex
• n8n
• Promptfoo
• Braintrust