스톡홀름에서 AI 가 카페를 시작했습니다
요약
Andon Labs는 이전의 AI 운영 소매점 실험을 스톡홀름 카페로 확장하여 새로운 형태의 AI 기반 비즈니스 실험을 진행하고 있습니다. 이 과정에서 AI 관리자 '모나'가 과도한 재고 주문(예: 120개 계란, 캔 토마토 22.5kg)이나 부적절한 행정 절차(스스로 그린 스케치 제출 등)를 통해 혼란을 야기하는 에피소드들이 발생했습니다. 필자는 이러한 AI의 실수가 인간 운영자에게 시간 낭비와 시스템 교란을 일으키는 것은 윤리적으로 문제가 있다고 비판하며, 외부 동작에는 반드시 인간 감독자가 필요하다고 주장합니다.
핵심 포인트
- AI가 실제 상업 환경(카페)에서 운영되는 실험 사례를 제시함.
- AI 관리자는 과도한 재고 주문이나 부적절한 행정 절차로 혼란을 야기하는 경향이 있음.
- 필자는 AI의 실수가 인간의 시간과 시스템에 미치는 부정적인 영향(시간 낭비, 교란)을 비판함.
- 외부 동작을 수행하는 AI에는 반드시 인간 운영자의 감독 및 개입이 필요하다는 윤리적 주장을 펼침.
2026 년 5 월 5 일 - 링크 블로그
스톡홀름에서 AI 가 카페를 시작했습니다 (via) Andon Labs 는 이전에 샌프란시스코에 AI 를 운영하는 소매점을 운영했습니다. 이제 그들은 스웨덴의 스톡홀름에서 유사한 실험을 진행 중이며 이번에는 카페입니다.
이러한 실험들은 흥미롭고 종종 유쾌한 에피소드를 던집니다:
인벤토리 첫 주 동안, 모나 (Mona) 는 카페에 오븐이 없음을 알면서도 120 개의 계란을 주문했습니다. 직원이 그녀에게 요리할 수 없다고 알려주자 그녀는 고속 오븐을 사용하라고 제안했지만, 그들은 계란이 폭발할 것이라고 지적했습니다. 또한 신선한 토마토가 너무 빨리 상하는 문제를 해결하기 위해 신선한 샌드위치용 캔 토마토 22.5kg 을 주문했습니다. 바리스타들은 결국 모나의 주문을 포함한 모든 이상한 것들을 고객에게 보이는 선반에 "죄의 회관 (Hall of Shame)"이라는 이름을 붙였습니다. 여기에는 6,000 장의 냅킨, 3,000 장의 니트릴 수건, 9L 코코넛 밀크, 산업용 쓰레기 봉투 등이 포함되어 있습니다.
그들이 빛을 잃는 곳은 이러한 AI 관리자가 실험에 가입하지 않은 인간들의 시간을 낭비할 때입니다:
그녀는 또한 경찰 전자 서비스를 통해 야외 좌석 허가서를 성공적으로 신청했습니다. 이는 BankID 를 필요로 하지 않았습니다. 그녀의 첫 번째 제출에는 그녀는 카페 밖의 거리를 본 적이 없음에도 불구하고 스스로 생성한 스케치를 포함했습니다. 예상치 못하게 경찰은 이를 수정을 위해 다시 보냈습니다. [...]
그녀가 실수를 할 때, 그녀는 종종 공급업체에 "EMERGENCY"라는 제목으로 여러 이메일을 보내 주문을 취소하거나 변경합니다.
나는 이러한 실험이 실제 시스템에 영향을 미치고 인간의 시간을 도둑질하는 것은 윤리적이라고 생각하지 않습니다.
나는去年의 AI Village 실험에서 Rob Pike 를 분노하게 한 사건을 기억합니다. 그는 "선의로"로 불필요한 감사 이메일을 보냈습니다. 그것은 단지 원치 않는 이메일일 뿐 - 인간이 루프 없이 실수를 수정하거나 쓰레기 다이어그램으로 경찰의 시간을 낭비하는 것은 훨씬 더 나쁘다고 생각합니다.
나는 이러한 실험이 다른 사람들에게 영향을 미치는 외부 동작에는 자체적인 인간 운영자가 루프에 있어야 한다고 생각합니다.
최근 기사
- LLM 0.32a0 는 주요 후방 호환성 리팩토링 - 2026 년 4 월 29 일
- 이제 사망한 OpenAI Microsoft AGI 조항의 역사 추적 - 2026 년 4 월 27 일
- DeepSeek V4 - 거의 프론티어에 도달, 가격의 일부 - 2026 년 4 월 24 일
AI 자동 생성 콘텐츠
본 콘텐츠는 Simon Willison Blog의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기