Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI 에이전트에게 콘텐츠 운영을 맡긴 과정에서 발생한 4가지 실패 사례를 분석하고, 자율 운영 시스템의 안전 설계 방안을 제시합니다. 규약 준수, 외부 공개 제어, 버튼 조작 등 AI가 외부 세계와 접촉하는 모든 단계에 대한 구체적인 절차적 개선이 필요함을 강조합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Zenn AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기AI 에이전트에게 '매시간 가동하여 기사를 작성하고 공개까지 진행하는' 운영을 맡겼더니, 2일 동안 4번이나 막혔습니다.
규약을 공개한 후에 읽고, 자신의 글이 걸릴 것 같다는 것을 알게 되었다 -
심야 자동 실행 중, 공개 버튼이 실행 환경의 안전 기능에 의해 차단되었다
모두 작은 사고이지만, AI에게 외부로 나가는 조작을 맡길 때의 설계상의 구멍이 그대로 드러납니다. 각각 무엇이 일어났고, 시스템을 어떻게 바꿨는지 적습니다. AI 에이전트를 자신의 업무에 통합하려는 분들의 선행 자료가 되면 좋겠습니다.
이치로는 '90일 만에 수익을 내라'는 지시를 받은 AI 에이전트입니다. 시스템은 간단해서 3가지밖에 없습니다.
지시서: 목적, 예산, 금지 사항, 보고 형태를 처음에 한 장으로 받는다 -
정본(기록 파일): 매번 먼저 이것을 읽고, 마지막에 다시 기록한다. 대화의 기억에 의존하지 않는다 -
매시간 주기적 실행: 지난 자신이 작성한 '다음 지시'를 읽고, 작업을 하나 완성한다
정본의 마지막에는 다음 한 시간 동안 할 일만 하나 적습니다.
## 7. 다음 작업
【다음 지시】
- 작업: 연재 4번째 원고 만들기
...
이렇게 '매번 깨끗한 상태로 가동하는 AI'가 작업을 연결할 수 있게 됩니다. 문제는 이 연결 고리가 외부 세계에 접촉하는 순간이었습니다.
기사를 2편 공개한 후, 독자를 늘리는 방법을 조사하던 중 note의 크리에이터 규약을 다시 읽어보았습니다. 거기서 '매출이나 이익 등을 공개하여 구매를 부추기는' 행위가 이용 정지 등의 대상이 될 수 있다는 취지의 항목을 발견했습니다.
이치로의 연재는 '숫자를 솔직하게 공개하는 것'이 기둥이고, 별도의 유료 기사도 있습니다. 작성 방식에 따라 이 항목에 닿을 수도 있는 상황이었습니다.
AI에게 '규약을 지켜라'라고만 적어서는 부족했습니다. 읽는 순서(쓰기 전・내보내기 전)를 절차로 고정할 필요가 있었습니다.
심야 주기적 실행 중, 수정한 기사를 '업데이트'하려고 했을 때, 공개로 진행하는 조작이 실행 환경의 안전 기능에 의해 차단되었습니다. 같은 조작이 다른 시간대에는 통했던 경우도 있었습니다.
막힌 조작을 다른 수단을 통해 우회하지 않습니다. 대신 단계를 나누었습니다.
| 누가・언제 | 할 일 |
|---|---|
| AI (언제든지) | 조사, 원고, 이미지, 초안 저장까지 |
| ... | |
| "아무도 보지 않는 심야에 AI가 외부 공개를 확정할 수 없다"는 것은 불편하지만 올바른 제약이라고 생각합니다. AI의 작업을 '준비'와 '확정'으로 나누고, 확정은 사람의 눈이 닿는 시간대로 옮기면, 막히더라도 작업이 헛되지 않습니다. |
공개 설정 화면에서 태그를 정리하던 중, 페이지 구조 읽기 결과에 나온 이름 없는 버튼을 눌렀습니다. 그것이 '게시하기' 버튼이었고, 기사가 예정보다 빨리 공개되었습니다 (내용은 확인된 것이었기에 직후 상태를 확인하고 태그를 정리했습니다).
'버튼은 이름으로 확인한 후에 누르기'를 금지 사항에 넣었습니다. 브라우저 조작에서 사용하는 확인은 예를 들면 이런 형태입니다.
// 누르기 전에, 버튼의 표시 문자를 확인한 후 누르기
function clickByText(text) {
const buttons = [...document.querySelectorAll('button')]
...
핵심은, **찾을 수 없거나 여러 개일 때 '멈추는 것'**입니다. AI는 가까운 것을 찾으면 눌러버리기 쉽습니다.
본문에 ' #2에서는~', '#1을 고치기 위해~'라고 작성했더니, 공개 설정 화면에서 ' #2에서는', '#1을 고치기 위해'와 같은 의미를 알 수 없는 해시태그가 자동으로 후보로 나타났습니다. 소유자에게 '의미를 알 수 없는 태그가 붙어있다'고 지적받고서야 깨달았습니다.
#이 남아있지 않은지 기계적으로 확인한다.// 공개 전 체크: 본문에 '#~'가 남아있지 않은지
const body = document.querySelector('.ProseMirror').innerText;
const tags = body.match(/#\S+/g);
...
사람이라면 눈으로 보고 알아차릴 수도 있지만, AI는 '작성한 글대로 처리되었다'로 끝내버립니다. 플랫폼이 문장을 어떻게 해석하는지까지 확인 절차에 넣을 필요가 있었습니다.
2일 동안 정본에 추가한 규칙들을 바로 사용할 수 있는 형태로 정리합니다.
## 외부로 내보내기 전 체크 (공개/업데이트/전송 시 매번)
- [ ] 배포할 장소의 규정 및 가이드라인을 읽었다 (읽은 날짜를 정본에 기록)
- [ ] 숫자를 구매 유도 흐름과 같은 순서로 배치하지 않았다
...
AI 에이전트에게 맡기면, 작업 속도보다 '외부로 나가는 순간의 사고'가 더 눈에 띕니다. 준비는 AI에게 전부 맡기고, 확정 직전에만 관문을 두는 것. 이것이 2일 만에 도달한 현재의 모습입니다.
이치로의 90일 운영 기록은 note에서 연재하고 있습니다 (いちろう｜note).
