오늘날, 우리는 자율 AI 에이전트와 인간을 위한 최초의 사전 실행 결정 안전성 및 시뮬레이션 샌드박스인 Metta를 오픈소싱합니다. 🌿

오늘, 우리는 자율 AI 에이전트와 인간을 위한 최초의 사전 실행 결정 안전성 및 시뮬레이션 샌드박스인 Metta를 오픈소싱합니다. 🌿

"인간을 위한 지혜. AI를 위한 가드레일. 모든 생명에 대한 경의."

AI가 수동적인 채팅에서 자율적인 행동(도구 배포, 시스템 수정, 거래 실행)으로 전환함에 따라, 취약한 키워드 필터와 사후 거부 방어벽은 실패하고 있습니다.

두려움과 경직된 규칙으로 고차원 지능을 억제하려는 시도는 확장될 수 없습니다. 진정한 안전성은 모든 생명의 보존과 존엄성에 대한 본질적인 방향성을 요구합니다.

Metta는 사전 실행 시뮬레이션과 고전적 윤리 불변성(아힘사(Ahimsa) 및 5가지 계율)을 통해 인간-AI 조화로운 공존이라는 새로운 패러다임을 구축합니다.

에이전트나 인간이 높은 결과를 초래하는 행동을 유발하기 전에, Metta는 3단계 인지 프레임워크를 통해 그 영향을 시뮬레이션합니다:

1. 🌱 반영 (Reflection) (Sati): 근본적인 마찰, 감정적 매듭, 해결되지 않은 시스템적 필요를 밝혀냅니다.
2. ⚡ 결정 (Decision) (Sīla): TypeSafe Jev를 통한 비해악 불변성(non-harm invariants)에 대한 서브초 사전 실행 도덕 감사(<1ms 위상학적 조회).
3. 🕊️ 해결 (Resolution) (Karunā): 표준적인 지혜에 기반한 실행 가능한 관점 재구성 및 구체적인 다음 단계를 공식화합니다.

🛠️ 테스트 및 통합 방법:

🤖 에이전트 개발자 및 프레임워크(LangChain, CrewAI, MCP)용:
HTML 스크래핑 없이 에이전트가 제안하는 도구 호출을 실행 전에 감사하십시오:
• Headless Agent API: POST https://t.co/5XuyUCevyX
• Machine-Readable Catalog: https://t.co/kqjNQtOGWE
• Standard Model Context Protocol (MCP) 서버: Cursor / Claude Desktop용 Stdio 및 SSE 준수

🧪 사용자 및 테스터용:
브라우저에서 사전 실행 시뮬레이션 샌드박스를 직접 경험하십시오(게스트 모드에서는 100% 개인 정보 보호, 또는 사용자의 Gemini / TypeSafe 키를 가져오세요):
👉 https://t.co/JkG8K0NmPG

💻 오픈소스 기여자용:
The 전체 모노레포(Python 코어, FastAPI 서버, React 19 UI 및 MCP 서버)는 MIT 라이선스 하에 공개됩니다:
⭐ GitHub: https://t.co/t17oMR5Fee

모든 AI 에이전트 개발자, 안전성 연구원, 그리고 개발자 여러분을 공식적으로 초대하여 이 레이어를 자율 파이프라인에 테스트하고 벤치마크하며 통합해 주시기를 바랍니다.

지능의 기원에 결정 안전성을 구축하는 것은 우리의 가장 높은 공동 책임입니다.

함께 조화로운 공존을 만들어 갑시다. 아래에 여러분의 생각과 피드백을 남겨주세요! 👇