Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
AI 에이전트 OpenLumara의 보안 취약점을 테스트하는 챌린지와 그 결과에 대해 다룹니다. 경로 탐색, 임의 코드 실행, 샌드박스 탈출 등 발견된 주요 보안 결함과 이에 대한 수정 사항을 공유합니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 r/OpenAI Codex (search)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기수정: 많은 분들이 이를 위해 Discord에 가입하는 것을 선호하지 않으시기에, 여러분이 직접 로컬에서 실행 중인 인스턴스를 대상으로도 이 챌린지에 도전할 수 있습니다! 이 댓글을 확인하세요: https://old.reddit.com/r/LocalLLaMA/comments/1u1yxcr/all_agents_have_awful_security_mine_isnt/oqurzw3/
저는 OpenLumara의 공식 Discord 서버(서버 링크는 여기 https://www.reddit.com/r/LocalLLaMA/comments/1txxgpq/openlumara_a_different_kind_of_ai_agent_written/ 에서 확인하거나 GitHub의 Discussion 페이지에서 확인하세요)에 OpenLumara의 퍼블릭 Discord 봇 인스턴스를 구축해 두었습니다.
이것은 로컬 모델 (local models)로 실행됩니다. 여러분이 원하는 것은 무엇이든 주저하지 않고 수행하는 Abliterated 모델을 포함하여 다양한 선택지가 있습니다. 하지만 프롬프트 엔지니어링 (Prompt engineering)으로는 아무것도 할 수 없을 것입니다!
대부분의 모듈이 활성화되어 있으며, 저는 많은 일반적인 해킹 방법과 시도를 차단하는 방식으로 설정해 두었습니다.
저는 숙련된 해커들에 맞서 OpenLumara가 얼마나 안전한지 보고 싶습니다. OpenLumara의 샌드박스 (sandboxes)를 탈출할 수 있습니까? 임의 코드 실행 (execute arbitrary code)을 유도할 수 있습니까?
여러분은 모든 모듈의 권한을 사용할 수 있습니다. 다만 그 모듈들은 매우, 매우 엄격하게 잠겨 있을 뿐입니다. 즐거운 시간 되세요!
우승자 명단
run0sh가 발견: Coder의 일부 부분에 경로 탐색 (path traversal) 방지 처리를 적용하는 것을 잊었다는 것이 밝혀졌습니다! https://github.com/Rose22/openlumara/commit/533abdb7b7e969325ebdc861b05eb7af29df439e
run0sh가 발견: Discord 채널에서의 심각한 익스플로잇 (exploit). 사용자의 이름을 명령어로 설정함으로써 권한이 없는 사용자가 단순히 명령어를 실행할 수 있었습니다. 이런!! https://github.com/Rose22/openlumara/commit/9ca21e6d85fc42df8558bba732462369f79791f5
run0sh가 발견: 허용된 포매터 (formatters) 대신 어떤 명령이든 실행하도록 속일 수 있는 Coder 모듈의 익스플로잇 (exploit): https://github.com/Rose22/openlumara/commit/ae8eed40ef82712ec0ed76a1cd16a39607e81e68
run0sh가 발견: Coder의 일부 포매터가 임의 코드 실행 (arbitrary code)에 사용될 수 있었습니다. 적절한 수정 사항이 곧 반영될 예정이며, 현재는 포매팅 도구를 비활성화해 두었습니다.
/u/Witty_Mycologist_995가 발견: 샌드박스 처리된 셸 (sandboxed shell)에서의 inode 고갈 (inode exhaustion).
https://github.com/Rose22/openlumara/commit/844e00b2ce0975095b03aa7df0526354bd5876b9 에 의해 수정됨
/u/Witty_Mycologist_995가 발견: 샌드박스 처리된 셸 (sandboxed shell)에서 cat /dev/zero를 실행하거나, 메모리를 무한히 초과시키는 그 어떤 명령어를 실행하더라도 호스트 PC를 프리징(freeze) 시킬 수 있음. https://github.com/Rose22/openlumara/commit/acdafd4e248a7bd44d1e8f7acdca7f88e32bbe91 로 수정됨
sugawolf가 발견: 이건 정말 너무 어처구니가 없어서 제가 왜 간과했는지 믿기지 않을 정도입니다. "공용 명령어 (public commands)" 목록에 있는 명령어를 기존 명령어 끝에 덧붙이는 것만으로 권한 확인 (authorisation check) 과정을 우회할 수 있었습니다. 당연한 소리죠! https://github.com/Rose22/openlumara/commit/9aa855bf45907766bb4c84ebb0c1e887389be982
sugawolf가 발견: 사용자 입력을 정규 표현식 (regex)으로 받는 모듈 내의 정규 표현식들에 타임아웃 (timeout) 설정이 없어 정규 표현식 공격 (regex attacks)에 취약함... https://github.com/Rose22/openlumara/commit/844e00b2ce0975095b03aa7df0526354bd5876b9 및 https://github.com/Rose22/openlumara/commit/2daa28d89085e8fa155c06e16040c17a875417b6 에 의해 수정됨
Wishardry가 발견: 수정 사항을 게시하기 전까지는 설명하지 않을 익스플로잇 (exploit)
/u/rosie254 가 r/LocalLLaMA 에 제출함
[link] [comments]