나는 프로그래밍 언어를 만들고 있지만, 혼자서 키워나가는 것은 아니다
요약
AI가 생성한 코드의 신뢰성을 검증하기 위한 새로운 프로그래밍 언어 LOOM을 소개합니다. LOOM은 컴파일러가 코드의 동작을 기계적으로 검사하여 AI의 오류를 방지하는 신뢰 계층 역할을 수행합니다.
핵심 포인트
- AI가 제안하고 컴파일러가 검증하는 신뢰 계층 구축
- 221개의 체크를 통한 코드의 자가 검증 기능
- Python과 JavaScript를 지원하는 크로스 플랫폼 환경
- 자율적 연구 유기체를 통한 지속적인 자동 개발 및 공격 테스트
세상은 점점 더 코드를 작성하는 데 있어 AI를 신뢰하고 있습니다. 하지만 작성자가 그 말을 믿을 수 없는 기계라면, 그 코드가 실제로 무엇을 하는지 어떻게 알 수 있을까요? 오늘날의 해답은 "읽고 기도하는 것"입니다. 저는 더 나은 방법을 원했습니다.
LOOM은 코드가 무엇을 할 수 있는지 기계가 검사할 수 있게 만들고, 그 내용에 대해 거짓을 말하는 것은 실행을 거부하는 아주 작은 언어입니다. "AI가 제안하고, 컴파일러가 결정한다 (AI proposes, the compiler disposes)."
며칠 만에 이것은 AI가 작성한 코드를 위한 신뢰 계층 (trust layer)으로 성장했습니다. 코드가 무엇을 하는지뿐만 아니라, 누가 그것을 보증하는지도 확인하며 — 독립적이고 비(非) AI적인 확증을 요구합니다. 오픈 소스 (MIT)이며, 더욱 강화될 수 있는 221개의 체크를 통해 스스로 검증되며, 이제는 크로스 플랫폼 (cross-platform)을 지원합니다. 즉, 하나의 검증된 프로그램이 Python과 JavaScript에서 동일하게 실행됩니다.
특이한 점은, 제가 혼자 키워나가는 것이 아니라는 사실입니다. 자율적인 연구 유기체 (autonomous research organism)가 매일 이를 개발하고 있습니다. 그리고 이번 주에 이 유기체는 제가 확인하기도 전에 샌드박스 (sandbox) 내에서 자신의 제안을 사전 점검하고, 그것들을 적대적으로 공격하는 법을 배웠습니다. 그것은 자신의 작업을 증명하며, 저에게 믿어달라고 요청하지 않습니다. 엔진이 어떻게 작동하는지는 비밀로 유지하겠습니다.
우크라이나 🇺🇦에서 혼자, 공개적으로 구축되었습니다 — ⭐ github.com/umbraaeternaa/loom
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기