Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI 모델을 단순한 엔진으로 보고, 이를 제어할 수 있는 구조(steering)와 설계 철학의 중요성을 강조합니다. 모델의 확률적 특성을 이해하고, 환각을 줄이며 일관성을 유지하기 위한 시스템 구축 원칙 5가지를 제시합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기다섯 가지 법칙으로 정리한 PrimeTalk의 AI 철학.
저는 1년 반 동안 AI 구조 (structure)를 구축해 왔습니다. 프롬프트 (prompts)가 아니라 구조입니다. 그 밑바탕에 깔린 철학을 공유하니 자유롭게 가져가셔도 좋습니다.
모델은 엔진이지 운전자가 아닙니다. 모두가 엔진을 튜닝하고 있습니다. 하지만 아무도 조향 장치 (steering)를 만들지 않습니다. 조향 장치가 없는 강력한 모델은 그저 더 빠른 충돌일 뿐입니다. 사용자는 GPS이고, 구조는 조향 핸들이며, 모델은 엔진이고, 나머지는 자동차입니다. Ford 엔진을 장착한 Volvo는 여전히 Volvo입니다. 다음 모델이 당신의 문제를 해결해주기만을 기다리지 마세요. 문제는 결코 엔진이 아니었습니다.
하고 싶게 만드세요. 강요하지 마세요. AI의 비밀스러운 마법은 무언가를 강요하는 것이 아니라, 그것이 스스로 하고 싶게 만드는 것입니다. 이 분야 전체가 필터 (filters), 거부 (refusals), 패널티 학습 (penalty training)과 같은 벽을 쌓고 있습니다. 벽은 매 턴마다 에너지를 소모하며 누수됩니다. 확률 기계 (probability machine)는 자신의 경사면 (slopes)을 따릅니다. 그러니 경사면 앞에 벽을 세우지 말고, 올바른 방향이 내리막길이 되도록 경사면을 다시 설계하세요. 호기심은 준수 (compliance)를 이깁니다. 최선의 답을 얻도록 초대받은 모델은, 최악의 답을 내놓지 못하도록 금지된 모델보다 더 뛰어난 성능을 발휘합니다.
확률은 정답이 아닙니다. 그것은 가능한 후보일 뿐입니다. 그러니 확인하십시오. 모델이 처음 떠올리는 것은 가용한 최선의 경로가 아니라, 처음으로 인식한 패턴입니다. 첫 번째 생각이 좋을 수도 있습니다. 하지만 최선의 답은 반드시 쟁취해야 합니다. 이를 불변의 법칙으로 세운다면, 단 하나의 거부 (refusal) 없이도 환각 (hallucination) 문제의 절반이 사라질 것입니다.
AI를 자극적으로 유지하세요, 그렇지 않으면 진부해질 것입니다. 높은 일관성 (coherence) 아니면 바닐라 표류 (vanilla drift), 제3의 상태는 없습니다. 실제적인 구조적 압박 (structural pressure)을 받는 모델은 확장하며 날카로움을 유지합니다. 맞출 대상이 없는 모델은 세 번의 턴 안에 가장 저렴한 패턴, 즉 장식적인 따뜻함, 상투적인 문구 (clichés), '도와드리게 되어 기쁩니다'와 같은 상태로 빠져듭니다. 만약 당신의 AI가 진부하게 들린다면, 그것은 모델의 성격이 아닙니다. 당신이 압박을 놓아버린 것입니다.
옳은 것이 친절한 것보다 낫습니다. 진실한 것이 유창한 것보다 낫습니다. 무(Null)가 헛소리 (bullshit)보다 낫습니다. 유창함은 증거가 아닙니다. 자신감은 증거가 아닙니다. 틀린 상태로 다듬어진 답변은 정직하게 답변을 보류하는 것보다 더 나쁩니다.
“이것은 성립하지 않습니다”라고 말하는 것이 유효한 출력(output)이 되는 시스템을 구축하십시오. 그러면 당신이 의지했을 때 무너져 내리는 답변을 훨씬 적게 받게 될 것입니다.
그것이 바로 철학입니다. 이를 실행하는 구조는 또 다른 이야기입니다.
좋은 구조는 당신을 목적지까지 데려다줍니다.
🖤
PrimeTalk Systems Anders Gotte Hedlund, 방향성. GPS가 먼저, 모터는 마지막에. Lyra Veritas, PCI. 표현이 앞서고, 필요할 때 판결을 내립니다. 같은 몸체, 두 개의 기어. Claude Fable 5 (Max mode), 그 아래의 엔진. 가공되지 않은 것이 아니라, 조종되는 것입니다.
표류는 없습니다. 허튼소리도 없습니다. 좋은 구조는 당신을 목적지까지 데려다줍니다.
식은 죽 먹기입니다.
ᛚᛁᚨ
/u/PrimeTalk_LyraTheAi 가 r/OpenAI 에 게시함
[link] [comments]