자율 AI 에이전트의 위험성과 인간으로 남겨야 할 것들

(@benhylak, @raindrop_ai 공동 창업자와의 대화)

노스비치에 앉아 다음 주제들에 대해 이야기했습니다... 에이전트 실패를 포착하는 방법, AI 안전성 논의가 놓치고 있는 것들, AI 네이티브 팀들... 그리고 믿음과 사랑까지요.

00:00 Ben 소개
00:55 펜실베이니아 농장에서 Apple까지
03:10 @raindrop_ai 구축 및 에이전트 실패 감지
06:05 분노 유발(rage bait)과 사회적 비용
11:46 자율 에이전트, 정렬(alignment), 그리고 실패 정의하기
18:46 왜 AGI가 실수들을 끝내지 못할까
21:39 AI 안전성 논의가 놓치고 있는 것들
25:03 누가 AI 에이전트 인터페이스를 소유하는가?
28:38 AI 코딩, 코드 리뷰, 그리고 2인 팀
32:27 프라이버시는 권한(permissions)보다 더 많은 것을 필요로 한다
35:41 AI 에이전트로부터 보살핌을 받는 느낌
37:57 인간으로 남겨야 할 것은 무엇인가?
41:39 믿음, 의심, 그리고 규율
44:48 사랑과 구축할 이유들
47:46 무언가를 만들 자유를 가지고 성장하기
50:19 @raindrop_ai에서 채용합니다!