Video: 앤트로픽이 직접 말아주는 Fable 5.1 지리게 잘 사용하는 법
Channel: 코드팩토리
Duration: 8m 6s
Source: subtitle (auto, ko)
Transcript:
여러분은 지금 페이블 5.1을 잘못 사용하고 있습니다. 맨날 토큰이 부족해서 허덕이는데 성과는 제대로 나지 않고 있었다라면은 엔트로픽에서 직접 알려주는 페이블 5.1 제대로 사용하는 방법 열 가지이 영상에서 한번 알아보도록 할게요. 쏘as지. 자, 첫 번째는 문제 없는 코딩 유성을 거절을 당하고 있다라고 하면은 엔트로피 제한한 세 가지를 확인해 보면 좋습니다. 자, 오류 없이 컴파일돼라고 질문하는 대신에이 코드에 버그가 있어로 바꿔 보세요. 자, 그리고 잘 알려지지 않은 언어라면은 문법을 참고할 수 있도록 그 언어의 문서를 함께 첨부를 해 주시면 좋습니다. 자, 그리고 2를 사용을 할 때 베이스 64 데이터를 반환하고 있으면은 모델이 전달하는 결과에서 베이스 64는 제외를 해 주세요. 정상적인 요청이라도 베이스 64가 포함이 돼 있으면은 정상적인 요청도 거절당하는 원인이 될 수가 있어요. 자, 두 번째로 작은 모델의를 높여 쓰고 있다라고 하면은 페이블 5.1의 로우 에포트랑 한번 비교를 해 보세요.

엔트로픽에 따르면은 작업당 비용은 오버스나 소시랑 비슷하면서도 평가 점수는 오히려 더 높은 경우가 굉장히 많다라고 얘기를 합니다. 자, 기본값이는 하이에서 시작해서 같은 작업을 미디엄이나 로우로도 비교를 해 보시고 결과가 충분하다라면은 낮춰서 쓰시면 됩니다. 자, 저도 요즘 페이블랑 아스트라는 주로 로우를 사용을 하고 있어요. 자, 그런데 로우는 검색을 굉장히 덜한다는 점을 주의해 줘야 돼요. 자, 최신 정보를 모델이 검색하지 않아서 문제가 생긴다라면은 그 질문에만 올리거나 실프럼프트에다 이렇게 한번 적어 보세요. 알고 있는 내용이더라도 최신 정보는 무조건 검색해서 확인해 줘. 자, 반대로 X하이나 맥스는 긴 문서를 생각하는 과정에서 전체 문서를 다 써 버렸다가 답변에서만 다시 써서 오래 걸릴 때가 있습니다. 자, 이런 작업은 우선 하이를 사용해서 작업을 해 보시고 꼭 높은 설정을 써야 된다라면은 요청 끝에다가 이렇게 한번 붙여 보세요. 자, 생각할 때는 구성과 핵심 내용을 정하기만 하고 최종 문서는 최종 답변에 내가 만들어 달라고 할 때만 답변해서 작성을 해 줘.

자, 세 번째. AI가 빽빽한 차트에 작은 숫자들을 놓친다면은 필요한 부분을 확대해서 다시 보도록 하면 좋습니다. 자, 엔트로픽이 굉장히 강추하는 방법이고요. 예를 들어서 매출 그래프를 읽는다면은 AI가 확인할 영역을 고르고 툴이 그 부분을 잘라서 확대한 이미지로 반환하도록 한번 해 보세요. 자, 그러면 원래는 너무 작아서 AI가 보지 못하던 그 숫자와 글자를 이제 확인할 수 있게 됩니다. 단순히 확대해서 봐라는 말만 해서는 안 되고요. 실제로 이미지를 자르고 확대하는 툴이 들어가야 됩니다. CR이나 오픈 CV 같은 이미지 처리 라이브러리를 사용하면 더 좋고요. 가이드에 따르면은 선택한 영역을 잘라서 확대해 주는 크롭툴루만으로도 개선 효과가 상당히 크다고 얘기를 하고 있어요. 자,네 번째. AI가 글의 불필요한 추상적인 비율을 너무 많이 넣는다면은이 프롬프트를 한번 써 보세요. 저도 컨텐츠 작업을 많이 해서 이런 표현 때문에 굉장히 스트레스를 많이 받는데 예를 들면은 조정해 볼 만한 매개 변수라는 단순한 문장을 굉장히 쓸데없이 과하게 돌려볼 만한 다열이라고 표현하는 경우가 있습니다.

자, 그냥 값을 바꿔 보라는 뜻인데 굳이 비유로 표현해서 이해하기가 오히려 더 어려워지는 거죠. 자, 가이드에서는이 한 줄만으로도 효과가 있다라고 얘기를 합니다. Please remove all manopros. 멋부린 표현을 빼고 뜻을 직접 설명하라는 내용이에요. 자,이 문장을 프롬프트에다가 그냥 붙이면 되고요. 시스템 프롬프트에도 넣을 수가 있긴 하지만 직접 주입하는 거를 우선 권장하고 있어요. 자, 다섯 번째 서버에트에게 일을 맡겼다라고 하면은 메인 에이전트도 다른 작업을 계속 하도록 유도를 하면 좋습니다. 자, 엔트로피에 따르면은 이렇게 했을 때 품질과 비용은 비슷하게 유지하면서도 평균 완료 시간을 확고하게 줄일 수가 있다라고 해요. 옛날에 우리가 메인 에이전트의 컨텍스트는 무조건 확보를 해 놨던 방식과 좀 반대되는 방법이죠. 작업을 꼭 직렬로 해야 되는 경우가 아니라면은 서브에트에게 작업을 전달한 뒤에 메인 에이전트가 바로 다음 작업을 할 수 있도록 하고 서브에트의 결과는 그냥 준비가 됐을 때 다시 전달받도록 구성을 해 달라는 얘기예요.

자, 그런데 이렇게 요청을 하더라도 메인 에이전트가 계속 기다리기만 할 수도 있다라고 얘기를 합니다. 직렬로 우리가 꼭 실행해야 하는 경우는 어쩔 수가 없지만 병렬 처리가 가능할 것 같다라면은 스티어링으로 여러분이 강제를 해 주셔도 좋습니다. 자, 여섯 번째 로그인 오류를 고쳐 달라고 했는데 관련 없는 화면까지 바꾸고 있다라고 하면은이 프롬프트를 한번 추가해 보세요. 자, 요청과 관련 없는 문제를 발견하면은 수정하지 말고 작업이 끝난 뒤 알려줘. 요청한 문제를 해결하는데 꼭 필요한 수정은 함께 진행을 해 주고 테스트를 작성할 때도 굉장히 유용한 프롬프트가 있어요. 저도 굉장히 잘 쓰고 있는데 수정한 기능이 제대로 작동하는지 확인해 주고 확인하려고 잠깐 만든 코드의 전부를 테스트 파일로 남기지는 마. 테스트 파일은 내가 요청을 했거나 프로젝트에서 같은 종류의 테스트를 관리하고 있을 때 기존 방식에 맞춰서 필요한만큼만 추가해. 자, 그리고 또 한 두 줄만 고치면 되는데 파일 전체를 다시 쓰게 되면은 바뀌지 않은 코드까지 출력하느라 시간과 토큰이 더 많이 들거든요.

자, 이때는 시스템 프롬프트나 첫 사용자 메시지에다가 이렇게 적어 보면 좋습니다. 필요한 부분만 고치더라도 같은 결과가 나온다면은 파일 전체를 다시 작성하지 말고 수정해야 될 부분만 따로 수정을 해. 자, 일곱 번째 이미 시켜 놓은 일을 진행을 할까요라고 계속 되묻거나 다음에 하겠습니다라고 자꾸 얘기를 하면서 멈춘다라면은이 지침을 한번 확인해 보세요. 작업을 맡겨 둔 다음에 그냥 계속 지켜볼 수가 없는 상황에서 엔트로픽은 시스템 프롬프트에 두 가지 지침을 함께 넣어 주면 좋다고 합니다. 자, 첫 번째는 다시 허락을 묻느라 멈추지 말라는 내용이요. 나는 작업 중에 답할 수 없어. 이미 요청한 일은 다시 묻지 말고 진행해. 만약에 나한테 물어봐야 될게 있으면은 처음에 한 번에 다 물어봐 줘. 자, 두 번째는 요청한 작업을 1부만 하고 끝내지 말라는 이야기예요. 자, 요청한 작업은 끝까지 일단 완료해 줘. 1부가 막히더라도 할 수 있는 나머지는 일단 다 마치고 못한 부분은 이유를 따로 알려줘. 자, 그런데 복구하기 어려운 삭제나 요청 범위를 바꾸는 일은 항상 먼저 물어보도록 하는게 좋습니다.

자, 의견만 물었을 때는 설명만 하고 따로 수정을 하지 않도록 유도를 해 주고요. 여러분이 따로 관리해야 되고 여러분의 허가를 꼭 받아야 되는 내용들은 꼭 물어보도록 여러분이 지정을 해 두셔도 좋고요. 자, 만약에이 세 가지 프롬프트가 너무 길다라면은 첫 번째 프롬프트를 우선적으로 적용하는게 좋다라고 이야기를 하고 있어요. 자, 그리고 여덟 번째 예전에 넣어둔 굵은 글씨나 목력을 쓰지 마. 같은 기존 버전에서 여러분이 작업을 했던 요청 사항들을 일괄적으로 확인을 해 주시면 좋습니다. 자, 엔트로픽에 따르면은 페이블 5.1은 서식을 덜 쓰는 편이라 이런 금지문을 지우거나 필요한 경우에는 물어보고 쓰도록 바꾸는게 좋다라고 이야기를 합니다. 자, 그리고 또 페이블 5.1 같은 경우에는 설명을 조금 덜하는 편이라 작업 중에 아무 설명이 없어서 불편했다라고 하면은 이런 프롬프트를 추가해 두시면 좋아요. 시작하기 전에 할 일을 한 줄로 알려주고 작업 중에는 진행 상황을 짧게 알려주고 끝나면은 확인한 내용과 완료된 작업을 정리해 줘.

자, 아홉 번째는 문서를 유약하면서 인용 표시를 하지 않는 문제가 생길 때요. 가이드에 따르면은 페이블 5.1은 이전 버전보다 원문의 문장을 가져오면서 인용 표시를 빠트리는 경우가 훨씬 더 많다라고 이야기를 하고 있어요. 자, 그러면은 문서에 실제로 쓰인 표현인지 AI가 내용을 정리하면서 쓴 편인지 구분하기 어려워질 때가 있거든요. 자, 엔트로픽은 시스템 프롬프트의 올바른 답변 예시를 아예 하나 넣어 놓으라고 권장을 합니다. 사용자의 요청, 답변, 그리고 왜 그 답변이 올바른지 설명까지 함께 넣어 주는 거예요. 공식 문서의 예시는 다리 폐쇄를 다룬 두 기사를 비교하는 작업이거든. 이런 프롬프트를 추가하면 좋습니다.이 문서를 유약은 하되 문서에서 그대로 가져온 표현에는 다운표로 꼭 붙여주고 유약이랑 직접 인용을 구분하기 쉽도록 작업해 줘. 자, 마지막으로는 API로 에이전트를 다룰 때 대화 기록을 관리하는 방법인데 이건 진짜 꿀팁입니다. 자, AI가 보내는 응답에는 여러분이 사용자에게 보여줄 답변이랑 그 답변을 만들어서 생성한 추론 기록을 우리가 함께 받을 수가 있거든요.

자,이 추론 기록이 담기는 부분을 우리가 think킹 블락이라고 이야기를 하고 그 안에는 시그니처라는이 서명이 들어가 있어요. 자, 대화를 이어나갈 때 우리가 앱에서 이전 대화랑 이전 기록을 같이 보낼 수가 있거든요. 엔트로픽은 이때 think킹 블록 전체를 받은 그대로 보내고 그 앞에 대화를 수정하지 말라고 이야기하고 있어요. 자, 그런데 만약에 여러분이 이전 대화만 짧게 요약을 하고 출론 기록은 그대로 보내게 되면은 기록이 서로 매칭이 안 돼서 API 검사에서 오류가 날 수가 있습니다. 자, 그래서 만약에 대화가 길어져서 앱에서 직접 유약을 해야 된다면 그러니까 콤팩트인 거죠. 실제 프로세스가 같은데이 방법이 달라져요. 전체 기록을 유약 메시지 하나랑 새자 요청으로 아예 바꿔 주고요. 이전 think킹 블락은 같이 보내지 않는 겁니다. 자, 모델이 요약된 대화를 기준으로 다시 생각하게 하는 거죠. 처음부터. 자, 요약에는 사용자가 정한 조건, 끝낸 일, 남은 일, 발생한 문제랑 처리 방법을 포함을 해 두면 당연히 더 좋습니다.

자, 이렇게 우리가 엔트로픽이 직접 알려주는 페이블 5. 사용 꿀팁 열 가지 한번 정리를 해 봤고요. 여러분은 몇 가지나 이미 사용하고 계셨나요? 자,이 영상이 좀이 됐다면 구독과 좋아요, 알림 설정, 그리고 하이까지 주시면은 정말 감사하겠습니다. 자, 그럼 저는 다음 영상에 더 좋은 영상으로 찾아뵙도록 할게요. 감사합니다. 쏘지.