AI 로 전송하기 전 위험한 터미널 명령어 감지 — 내 안전 레이어

이 내용이 유용하다면 ❤️ 를 눌러 다른 분들이 찾아보시도록 도와주세요. 모든 테스트는 8 년 된 MacBook Air 에서 실행됩니다.

HiyokoHelper 는 터미널 오류를 Gemini 에 전송하여 진단합니다. 하지만 사용자가 rm -rf / 나 fork bomb 을 붙여넣은다면? 두 가지 문제가 있습니다:

1. 오류가 아닌 명령어에 대한 API 쿼터를 낭비
2. 시스템을 파괴할 수 있는 명령어의 "설명" 을 받을 위험

이제 제가 구축한 안전 레이어입니다.

Layer 1: 실제로 위험한가?
#[derive(Debug, PartialEq)]
pub enum SafetyLevel {
Safe,
Warning ( String ),
Danger ( String ),
}

pub fn assess_safety ( input : & str ) -> SafetyLevel {
let input_lower = input .to_lowercase ();
let critical = [
( "rm -rf /", "이 명령어는 전체 파일 시스템을 삭제합니다." ),
( "rm -rf ~", "이 명령어는 홈 디렉토리를 삭제합니다." ),
( "rm -rf *", "이 명령어는 현재 디렉토리 내 모든 파일을 삭제합니다." ),
( "mkfs", "이 명령어는 디스크를 포맷하여 모든 데이터를 지웁니다." ),
( "dd if=/dev/zero", "이 명령어는 디스크에 0 으로 덮어씁니다." ),
( ":(){:|:&};:", "이 명령어는 fork bomb 입니다 — 시스템이 충돌합니다." ),
( "chmod -R 777 /", "이 명령어는 파일 시스템의 모든 보안 권한을 제거합니다." ),
];

for ( pattern , reason ) in & critical {
    if input_lower .contains ( pattern ) {
        return SafetyLevel :: Danger ( reason .to_string ());
    }
}

let warnings = [
    ( "sudo rm", "이 명령어는 관리자 권한으로 삭제 명령어를 실행합니다." ),
    ( "sudo chmod", "이 명령어는 관리자 권한으로 파일 권한을 변경합니다." ),
    ( "kill -9", "이 명령어는 프로세스를 강제로 종료합니다." ),
    ( "pkill", "이 명령어는 이름에 따라 프로세스를 종료합니다." ),
];

for ( pattern , reason ) in & warnings {
    if input_lower .contains ( pattern ) {
        return SafetyLevel :: Warning ( reason .to_string ());
    }
}

SafetyLevel :: Safe

}

Layer 2: 각 레벨에 대한 다른 UI
Danger → 완전히 차단.
Warning → 사용자에게 결정.
Safe → 무음으로 진행.

function SafetyBanner ({ level }: { level : SafetyResult }) {
if ( level . type === ' danger ' ) {
return (
⚠️ 危険なコマンドが含まれています
{ level . reason }
AI への送信をブロックしました。
);
}
if ( level . type === ' warning ' ) {
return (
🔶 注意 : { level . reason }
표시
);
}
return null;
}

Layer 3: sudo 에 대한 자동 설명
pub fn detect_mode ( input : & str ) -> DiagnosisMode {
let trimmed = input .trim ();
if trimmed .starts_with ( "sudo " ) && ! trimmed .contains ( '\n' ) {
return DiagnosisMode :: CommandExplain;
}
if looks_like_error ( input ) {
return DiagnosisMode :: ErrorDiagnosis;
}
DiagnosisMode :: CommandExplain
}

sudo systemctl restart nginx → 이 명령어가 무엇을 하는지 설명하고, 관리자 권한에 대해 경고합니다.
HiyokoHelper (OSS) → github.com/hiyoyok/HiyokoHelper
X → @hiyoyok