Perplexity의 에이전트 기술(Skills)은 더 많은 기술을 갖추기 전에 되돌리기(Undo) 경로가 필요하다
요약
Perplexity가 에이전트 API에 '기술(Skills)' 기능을 추가함에 따라, 에이전트의 동작이 되돌릴 수 없는 결과를 초래할 위험이 커졌습니다. 이를 방지하기 위해 모든 기술에 되돌리기 가능 여부를 명시하고, 불가할 경우 인간의 승인을 강제하는 '되돌리기 계약' 도입이 필요합니다.
핵심 포인트
- 에이전트 기술이 늘어날수록 되돌릴 수 없는 동작의 위험성 증가
- 기술의 가역성(reversible)을 명시하는 메타데이터 선언 필요
- 가역성이 없는 기술은 실행 전 반드시 인간의 승인 절차 요구
- 안전한 에이전트 설계를 위한 기술 레지스트리 구축 권장
Perplexity는 개발자가 더 복잡한 에이전트 출력을 위해 내장 기술 및 커스텀 기술을 구성할 수 있도록 에이전트 API에 "기술 (Skills)"을 추가했습니다. 더 많은 기술은 더 많은 동작을 의미하며, 더 많은 동작은 되돌릴 수 없는 변화를 일으킬 수 있는 더 많은 방법을 의미합니다. 에이전트에 다섯 번째 기술을 추가하기 전에, 먼저 네 가지 기술에 되돌리기 (undo) 경로가 있는지 확인하십시오.
되돌리기 문제 (The undo problem)
쓰기, 전송, 게시 또는 배포를 수행하는 에이전트 기술은 롤백 (rollback)이 없다면 되돌릴 수 없는 동작입니다. 에이전트가 더 많은 기술을 가질수록, 단일 세션 내에서 수행할 수 있는 되돌릴 수 없는 동작이 많아집니다. 기술 체인 (research → draft → format → publish)은 인간이 첫 번째 단계가 잘못되었다는 것을 알아차리기 전에 완료될 수 있습니다.
되돌리기 계약 (The undo contract)
모든 에이전트 기술은 다음과 같이 선언해야 합니다:
{
"skill_name": "publish_to_blog",
"action_type": "write",
...
만약 reversible이 false라면, 해당 기술은 실행 전에 명시적인 인간의 승인을 요구해야 합니다.
되돌리기를 지원하는 기술 레지스트리 (A skill registry with undo support)
# skill_registry.py
"""
되돌리기 메타데이터와 함께 에이전트 기술을 등록합니다.
...
"""
레지스트리가 강제하는 사항
| 기술 유형 (Skill type) | 실행 (Execution) | 되돌리기 (Undo) |
|---|---|---|
| 읽기 전용 (Read-only) | 항상 허용 | 필요 없음 |
| ... |
확인해야 할 사항
현재 에이전트가 보유한 모든 기술을 나열하십시오. 각 기술에 대해 위의 되돌리기 계약을 작성하십시오. 만약 reversible이 false인데 requires_approval이 강제되지 않는 기술이 있다면, 안전 장치 없이 되돌릴 수 없는 동작이 실행되고 있는 것입니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기