개요

「생성형 AI (Generative AI)」는 2026년의 AI를 상징하는 단어로는 더 이상 본질적이지 않다.

지금의 AI 특징을 나타낸다면 「에이전트 (Agent)」이지만, 이 단어 그대로는 의미가 너무 넓어 공통된 인식이 되지 않는다.

자율주행처럼 에이전트의 레벨을 생각함으로써 개념을 정리한다.

에이전트의 기능 레벨 F

권한 레벨 P

기능 × 권한 매트릭스

2025〜2027년의 동향

2025년

중심은 F2〜F3 × P2〜P3.

• AI가 툴과 인자를 선택함
• 반환값을 사용하여 여러 단계를 실행함
• 코드나 메일 등 실행 가능한 성과물을 만듦
• 변경 시에는 인간이 승인함

한마디로 말하면,

생성하는 AI에서, 툴을 선택하여 실행하는 AI로

2026년

중심은 F3〜F4 × P3〜P4.

• 장시간 태스크가 실용화됨
• 샌드박스 (Sandbox) 내에서 반복 실행
• 통상적인 조작은 자동 허가
• 고위험 조작만 인간에게 이양
• 승인 피로 (Approval fatigue)에 대한 대처가 중요해짐

한마디로 말하면,

인간이 매번 허가하는 AI에서, 정책 범위 내에서 움직이는 AI로

2027년

중심은 F4 × P4〜P5가 될 것으로 예상됨.

• 업무 단위, 역할 단위의 포괄적 위임
• 사전 승인에서 사후 감사로의 이행
• 조작 단위가 아니라 책임 범위 단위로 AI에게 맡김
• 인간은 승인자에서, 정책 설계자·예외 처리자·감사자로 이동함

한마디로 말하면,

조작을 승인하는 운용에서, 역할을 위임하여 감사하는 운용으로

F4가 실용상의 완성형이 될 수 있음

F4에서는 이미,

목적
→ 계획
→ 실행
...

이라는 실용상 필요한 구조가 갖춰져 있다.

따라서 향후의 주전장이 반드시 F5인 것은 아니다.

불안정하고 고가인 F4에서, 안정적·고속·저가인 F4로의 산업화(Industrialization)가 더 중요하다.

F5와 P5는 성질이 다르다

P5에는 명확한 실용성이 있다

모든 조작을 인간이 승인하는 P3에서는 승인 피로(Approval Fatigue)가 발생한다.

인간이 내용을 읽지 않고 승인하게 되면, 안전성을 높이기 위한 확인이 오히려 형식화된다.

이 때문에 실용상의 이상은 많은 경우 F4-P5가 된다.

목적은 인간이 결정한다
경계 조건(Boundary Conditions)도 인간이 결정한다
구체적인 판단과 실행은 AI에게 맡긴다
...

이는 '최대 권한'이라기보다, 의사결정의 포괄적 위임이 된다.

F5에는 필연적인 실용성이 없다

F5는 목적 그 자체를 AI가 설정·변경한다.

하지만 실제 사회의 업무에는 통상적으로,

• 이익
• 안전
• 법령
• 품질
• 예산
• 인간의 가치관

이라는 상위 목적이 있다.

따라서 실용상 필요한 것은 많은 경우 F5가 아니라, 인간이 부여한 상위 목적의 범위 내에서 하위 목표를 자유롭게 구성하는 고도의 F4이다.

경계 조건이 없는 F5는 인공 생명, 가상 환경, 철학적 실험으로서는 흥미로울지 몰라도, 현실 세계에서의 실용성은 불분명하며 위험하기까지 하다.

최종 정리

기술적인 주전장

F4의 산업화

장시간, 안정적, 고속, 저비용으로 목표를 수행할 수 있는 것.

사회 구현(Social Implementation)상의 주전장

P4에서 P5로의 이행

개별 승인에서 정책 판단(Policy Judgment), 포괄적 위임, 사후 감사로 나아가는 것.

실용상의 유력한 도달점

F4-P5

인간이 목적과 경계를 정하고, AI가 구체적인 판단과 실행을 맡는 상태.

경계해야 할 지점

F5

목적 그 자체를 AI에게 맡기는 단계. 성능 향상의 연장선으로서 자동으로 지향해야 할 목표가 아니다.

요컨대, 이 분류는 우측 하단을 향하는 로드맵이 아니라, 용도에 필요한 F를 선택하고 허용 가능한 P를 설계하며, F4와 F5 사이에 경계선을 긋기 위한 지도로 사용하는 것이 적절하다.

다른 관점 ~ 시스템의 안정성

현재의 AI는 F4의 처리 지속 능력을 측정하는 벤치마크 성능을 활발히 겨루고 있다.

반면 인간은 개별 성적에서는 AI에게 추월당하고 있지만, 수십 년 단위로 정보 처리 루프를 유지하고 있다고 생각하면 압도적인 시스템의 안정성·지속성·복원성을 가지고 있다.

의존이나 망상 상태와 같은 좋지 않은 루프도 있지만, 인간의 불완전성을 생각하면 이것은 기능 레벨 F와는 다른 축일지도 모른다.

단순한 F4의 고성능화가 아니라,

"불완전한 상태를 유지한 채로, 장기간 망가지지 않고 학습·수정·지속할 수 있는 것"

쪽에 AI의 돌파구(Breakthrough)가 있을지도 모른다.

이 기사의 바탕이 된 세션

Discussion