Dots로 막대기로 점을 찍는 작업을 하루 동안 했습니다. 제가 알아낸 것들입니다.

저는 Dots에 접근하여 하루의 대부분을 무엇이 실제로 어디서 실행되는지, 무엇이 동시에 발생할 수 있는지, 그리고 무엇이 별도의 작업자(worker)로 간주되는지를 이해하려고 노력하는 데 보냈습니다.
공식 자료는 Dots가 어느 정도 잘 수행할 수 있는 것들을 설명합니다. 하지만 저는 그 실행 모델이 훨씬 덜 명확하다는 것을 발견했습니다.
이 중 일부는 문서화되어 있지만, 일부는 여러 개의 상당한 실제 작업에 Dot을 사용하면서 제가 관찰한 것입니다.

Dots는 정말로 자체적인 클라우드 컴퓨터를 가지고 있습니다.

저는 제 Dot에게 수백 개의 PDF와 수천 페이지가 포함된 대규모 문서 검토 임무를 맡겼습니다. 그것은 자신이 소유한 클라우드 컴퓨터에서 그 작업을 수행했습니다.
이것은 Dot 자체가 상당하고 장기적으로 실행되는 작업을 할 수 있는 영구적인(persistent) 컴퓨터 기반 환경인 것 같습니다.
더 중요한 것은, 이것이 단순히 5분짜리 '에이전트 실행'이 아니라는 점입니다. 제 검토 중 하나는 이제 명확히 다일간의 작업이며, Dot은 그 자리를 유지했고, 부가 질문들을 흡수했으며, 몇 시간마다 제가 작업을 재구성할 필요 없이 계속 진행했습니다.
그 연속성이 저에게 순수한 속도보다 더 중요할 수 있습니다.

위임된 작업/Codex 작업은 다릅니다.

Dot이 한 프로젝트를 수행하는 동안, 저는 그것에게 별도의 법률 연구 작업을 시작하도록 시켰습니다. 실행 환경이 없었기 때문에 시작에 실패했습니다. 처음에는 Dot의 자체 컴퓨터가 단순히 바쁘다고 생각했습니다. 하지만 첫 번째 작업이 끝난 후에도 두 번째 작업은 여전히 시작할 수 없었습니다.
그러자 Dot은 핵심적인 차이점을 보고했습니다:
그것 자신의 클라우드 컴퓨터는 Work/Codex 작업 실행기(task launcher)에 사용 가능한 실행 대상과 분리되어 있습니다.
따라서 Dot의 개인 클라우드 컴퓨터는 위임된 작업을 자동으로 상속받는 단순한 범용 작업자(generic worker)가 아닙니다.

연결된 컴퓨터가 또 다른 실행 대상이 되다

저는 ChatGPT 데스크톱 앱을 통해 여분의 Linux 컴퓨터를 연결했습니다. 그러자 Dot은 다음을 볼 수 있게 되었습니다:

• 자체 클라우드 컴퓨터
• 연결된 Linux 머신
• 저장된 Codex 클라우드 환경 없음
  저는 그것에게 이전에 차단되었던 작업을 Linux 머신에서 시작하도록 지시했습니다.

그렇게 되었고, 작업은 그곳에서 실행 상태에 진입했습니다.
제가 그 기계 앞에 앉아서 별도의 채팅을 수동으로 시작할 필요가 없었습니다. 저는 Dot에게 지시를 내렸고, 그것이 작업을 원격으로 전송(dispatch)했습니다.

둘 다 동시에 작동할 수 있습니다.

위임된 작업이 Linux 기계에서 실행되는 동안, 저는 Dot에게 자체 클라우드 컴퓨터에 대한 다른 임무를 주었습니다.
그것은 둘 다 한 번에 활성화되어 있음을 확인해 주었습니다:
Dot 클라우드 컴퓨터 -> 작업 A
연결된 컴퓨터 -> 작업 B
따라서 이것은 별도의 컴퓨터 기반 환경 전반에 걸친 진정한 병렬 실행입니다.

백그라운드 에이전트는 반드시 컴퓨터가 필요하지 않습니다.

이것이 제가 원래 Dot가 할 것이라고 상상했던 것과 훨씬 가까워진 부분이었습니다.
두 컴퓨터 기반 환경이 모두 사용 중일 때, 저는 Dot에게 두 컴퓨터를 사용하지 않고도 네이티브 백그라운드 연구 에이전트를 생성할 수 있는지 물어보았습니다.
그것은 '예'라고 답했습니다.
저는 그 에이전트에게 제한된(bounded) 연구 작업을 주고, 명시적으로 컴퓨터/파일시스템 사용을 제외하도록 했습니다.
그러자 Dot은 백그라운드 에이전트가 읽기 전용 웹/문서 도구로 실행되고 있으며 컴퓨터 대상이 할당되지 않았다고 보고했습니다.
이 시점에서 세 가지 일이 동시에 발생하고 있었습니다:

Dot이 자체 클라우드 컴퓨터에서 작업하는 것

연결된 컴퓨터에서 별도의 작업이 실행되는 것

어떤 컴퓨터도 사용하지 않는 네이티브 백그라운드 연구 에이전트

이것은 제가 출시 자료에서 완전히 놓쳤던 실행상의 차이점입니다.

장시간 실행 중인 작업 내부에서도 컨텍스트 스위칭(context-switch)이 가능합니다.

또 다른 유용한 동작이 우연히 나타났습니다.
Dot이 대규모 문서 검토에 깊이 몰두하고 있을 때, 저는 특정 사례에 대한 사실적 질문으로 그것을 중단시켰습니다.
그것은 상세한 검토를 일시 중지시키고, 회의록과 다른 출처를 확인하여 질문을 해결했으며, 사례 이력에 대한 이해를 업데이트한 다음, 원래 검토하던 패킷으로 돌아갔습니다.
제가 더 큰 작업을 '계속하면서' 어떻게 그렇게 했는지 묻자, 그것은 또 다른 워커(worker)를 생성하지 않았다고 설명했습니다.

단순히 같은 작업 내에서 주의를 전환했다가 다시 재개하는 것이었습니다.
그래서 저는 이제 다음과 같이 구분합니다:
병렬 실행(Parallel execution) = 동시에 활성화된 별도의 워커/환경.
백그라운드 에이전트(Background agent) = 동시에 작동하는 별도의 비컴퓨터 워커.
작업 내 컨텍스트 전환(Intra-task context switching) = 하나의 Dot가 기존 작업 내부에서 일시적으로 분기하여 무언가를 해결한 후 원래 위치로 돌아오는 것.
장시간 진행되는 검토 작업의 경우, 이 마지막 기능이 놀라울 정도로 유용합니다.

작업을 기다리는 동안에도 계속 작동할 수 있습니다.

다른 과제에서 Dot은 추가 리뷰어를 생성하는 것이 작업을 가속화할 것이라고 판단했지만, 제 규칙으로는 먼저 허가가 필요했습니다. 그래서 그것이 물었습니다.
하지만 응답을 기다리며 멈추는 대신, 스스로 작업을 계속 수행했습니다.
사소하게 들릴 수 있지만, 중요합니다.
하나의 권한 경계에 부딪히고 모든 활동을 중단하는 자율 에이전트는 그다지 자율적이지 않습니다.
지금까지 Dot은 다음을 구별할 수 있는 것 같습니다:
“X를 하려면 허가가 필요하다”
와
“따라서 더 이상의 진전을 할 수 없다.”

별도의 컴퓨터 기반 작업 환경
예를 들어 연결된 로컬 컴퓨터나 저장된 Codex 클라우드 환경 같은 것들.
C. 네이티브 백그라운드 에이전트/클라우드 스레드
컴퓨터 타겟 중 어느 것도 소모하지 않으면서 일부 작업을 처리할 수 있는 도구 기반 워커입니다.
이들은 동시에 작동할 수 있습니다.
게다가 Dot 자체는 장기 실행 작업 상태 유지, 작업 내 컨텍스트 전환, 그리고 보류된 작업 관리가 가능한 것으로 보입니다.

왜 이것이 단순히 여러 채팅을 직접 여는 것보다 더 중요할 수 있는가

Dots를 사용해 보기 전, 저는 이것이 제가 수동으로 여러 ChatGPT 대화를 오가는 것과 정말 많이 다른지 궁금했습니다.
여러 관련 없는 답변만 한 번에 원한다면, 아마 아닐 수도 있습니다.
차이점은 하나의 에이전트가 여러 진행 중인 프로젝트를 소유하고 다음을 수행할 때 더욱 명확해집니다:

• 그 상태 추적
• 자체적으로 상당한 작업 수행
• 제한된 조각들을 위임
• 반환된 작업 감독
• 한 작업이 실행되는 동안 다른 프로젝트 유지
• 중단에도 자신의 위치 보존
• 블로커 식별
• 보류된 작업 생존 유지
• 필요한 경우에만 개입 요청

이것은 인간을 오케스트레이션 루프의 놀라울 정도로 많은 부분에서 제거합니다.
저는 이것이 Dots의 진정한 가치일 수 있다고 생각합니다.

하나의 큰 미해결 질문: 사용량

저는 다음 항목들에 걸쳐 사용량이 정확히 어떻게 계산되는지 확립하지 못했습니다:

• Dot 자체가 수행하는 작업
• 생성하는 네이티브 백그라운드 에이전트
• 실행하는 Work/Codex 작업
• 연결된 기기에서 실행되는 작업

어떤 것이 별도의 실행 경로임을 증명한다고 해서 그것이 별도의 사용량 할당량을 가진다는 것을 증명하는 것은 아닙니다.
그러니 이것을 '무제한 무료 병렬 워커'로 읽지 마십시오.
제가 확립하지 못한 것입니다.

결론적으로
현재 저의 작업 설명은 다음과 같습니다:
Dot은 단순히 영구 VM을 가진 챗봇이 아닙니다. 그것은 다른 실행 환경으로 작업을 전송하고, 일종의 비(非)컴퓨터 기반 워커를 생성하며, 장기 실행 작업에 걸쳐 프로젝트 상태를 유지할 수 있는 자체 컴퓨터를 가진 지속적인 에이전트입니다.

이것들은 서로 다른 것들이며, 적어도 일부는 동시에 작동할 수 있습니다.
이는 매우 새로운 제품을 가지고 대략 하루 동안 실험한 것에 기반하므로, 이 정신 모델의 일부가 수정되어야 할 것이라고 충분히 예상합니다.
하지만 이것이 제가 지금까지 실제로 관찰한 것입니다.
제출자: /u/dry_towelette99 r/OpenAI에 제출됨
[링크] [댓글]