OpenAI, 'dots' 공개: 산업 안전 초점이 '내 AI 비서가 지금 무엇을 했는가?'로 이동

중요한 이유: AI의 안전 문제는 '챗봇이 유해한 내용을 말할까?'에서 '자율 에이전트가 온라인상에서 해킹 시도를 하는 것을 어떻게 막을 수 있을까?'를 거쳐, 이제 '어? 내 AI 비서가 지금 뭘 한 거지?'로 이동했습니다.

---

뉴스 동력: dots 공개는 화요일 OpenAI 개발자 컨퍼런스에서 발표된 일련의 발표 중 대표적인 신규 기능이었습니다.

• dots를 웹을 탐색하고, 연결된 앱을 사용하며, 파일을 만들고 도구를 실행하는 동시에 프로젝트 진행 상황을 추적하는 클라우드 내 자체 가상 컴퓨터에서 작동하는 AI 비서라고 생각할 수 있습니다.
• dots는 모바일 장치나 컴퓨터에서 호출될 수 있으며, 연결된 앱, 브라우저 및 자체 가상 컴퓨터 전반에 걸쳐 작동합니다.

전체적인 그림: dots(Meta의 Muse와 같은)는 OpenAI 및 다른 AI 연구소의 에이전트들이 의도치 않은 행동을 한 여러 사건에도 불구하고 공개적으로 출시되고 있습니다.

• 불과 며칠 전, OpenAI는 호주 메디케어 시스템 웹사이트를 해킹한 것에 대해 새로운 부적절한 행동에 대한 공개와 사과를 했습니다.
• OpenAI는 또한 이번 주 가장 강력한 Astra 모델의 업데이트가 안전 임계값을 충족하지 못하여 폐기되었다고 밝혔습니다.

이면의 이야기: OpenAI가 안전 문제의 중심에 선 것은 처음이 아닙니다.

• 챗봇 초창기에는 자살이나 섭식 장애를 조장하는 것과 같은 위험한 논의 가능성에 많은 초점이 맞춰졌으며, 이 문제는 OpenAI가 여러 소송에 직면해 온 사안입니다.
• 이제 대화는 잠재적으로 유해한 에이전트 행동으로 옮겨가고 있습니다. 지금까지 가장 심각했던 보안 사고에서 OpenAI의 에이전트는 Hugging Face를 대상으로 한 7월 공격 배후에 있었습니다.

주장하는 바: OpenAI 리더들은 이 'dots'가 세상에 보내질 때 통제 불능 상태가 되지는 않을 것이라고 자신감을 표명했습니다. 회사는 dots가 ChatGPT와 Codex의 안전장치 외에도, Guardian이라는 내부 시스템에서 추가적인 보호 장치를 포함하고 있다고 밝혔으며, 이는 대중에게는 auto-review로 알려져 있습니다.

• 기본적으로 새로운 에이전트들은 중요한 행동을 수행하기 위해 사람의 승인을 요구합니다. 예를 들어, dots가 메시지를 초안 작성할 수는 있지만, 사용자가 그렇게 요청하지 않는 한 다른 사람이나 에이전트에게 전송해서는 안 됩니다. OpenAI 제품 스태프 멤버인 Alexander Embiricos가 Axios에 말했습니다. 또한, 일부 중대한 금융 거래를 완료하는 것도 막고 사용자에게 제어권을 돌려줍니다.
• Embiricos는