아주 빠르게 읽어본 바로는, EVP_EncodeBlock이 약 1.5GB보다 큰 입력을 받으면 오작동하는 버그임. 이 함수는 데이터를 base64로 인코딩함. https://docs.openssl.org/1.0.2/man3/EVP_EncodeInit/
숙련된 C 개발자로서 보면 API 설계부터 좋지 않음. 호출자가 복잡한 공식으로 버퍼 길이를 직접 계산해야 하고, 출력 버퍼 길이를 함수에 전달하지 않아 구현체가 검증할 수도 없음. 그런데 OpenSSL 4는 구현까지 잘못해서 버퍼 끝을, 어쩌면 한참 넘어 기록하는 것으로 보임.
외부에서 유도해 이 API로 아주 큰 데이터를 인코딩하게 만들 수 있는 프로그램이라면 위험하다고 봐야 함. 다만 현대적인 서버가 왜 그렇게 처리할지는 모르겠음. OpenSSL은 질 낮은 API를 질 낮게 구현한 라이브러리로 보여 피하는 편을 권함.
수정: 부호 없는 정수로 생각했다가 부호 있는 정수라는 점을 반영해 크기 기준을 고쳤음. 코드를 직접 확인한 것은 아니고 설명만 읽었음.
앞부분의 분석에는 동의하지만, 이렇게 널리 쓰이는 라이브러리에 구현과 API 모두 질이 낮다고 하는 건 상당히 강한 평가임. 어떻게 이런 일이 생길까 싶으면서도, 오픈 소스 개발자로서 코드 품질에 얼마나 관심을 주지 않는지 잘 알고 있음.
Heartbleed 이후에도 Linux 배포판이 OpenSSL에서 벗어나지 않는 이유를 모르겠음. 이런 문제를 안 지 벌써 20년도 훨씬 넘었다고 봄.
MISRA 같은 산업용 코딩 표준은 바로 OpenSSL 같은 코드베이스 때문에 존재한다고 늘 말하곤 함. 표준의 합리적인 규칙을 모조리 어기는 좋은 표본이기 때문임.
PR에서 모든 호출 지점의 오류 처리를 하지 않는 문제를 논의하는 내용만 봐도 많은 것이 드러남.
그렇긴 하지만, 제대로 된 대안에 합의하거나 자원을 투입하지도 못하는 실정임. 보통은 소프트웨어 생태계의 다양성을 지지하지만, 암호 기술만큼은 고품질의 단일 권장 경로가 있어도 좋겠음.
CVSS 9.8은 과장이라고 봄. Heartbleed만큼 심각한 문제와는 거리가 멂. 입력이 지나치게 길면 실패하는 함수이며, 악용 가능성은 신뢰할 수 없는 입력이 어떻게 도달하느냐에 달려 있음.
인터넷에서 받은 데이터를 전부 메모리에 읽고 EVP_EncodeBlock()을 호출하는 base64 인코딩 서비스라면 악용 가능함. 반면 16비트 길이 필드로 크기가 제한된 데이터 블록을 전달하는 프로토콜이라면 이 문제에는 완전히 안전함.
TLS를 구현해본 입장에서, 아는 한 TLS 프로토콜 자체에는 base64 인코딩이나 디코딩이 없고 가장 긴 길이 필드도 24비트인 Hello 스트림임. 인증서 처리에 쓰는 ASN.1은 임의 길이 정수를 지원하지만, 바로 그렇기 때문에 값이 합리적인 범위인지 검사해야 함.
문제는 CVSS 점수를 의미 있는 숫자인 것처럼 제목에 넣는 것임. 취약점 연구자는 관심을 끌려고 올리고, 공급업체는 고객을 안심시키려고 낮추니 점술판이나 다름없음. 더 낫고 덜 자의적인 체계가 필요함.
시스템 관리자는 아니지만 취약점 피로감이 심해지고 있음. 주요 소프트웨어에서 매일 최소 두 건씩 새 취약점이 나오니, 어디서나 이를 보고 듣는 데 지침. 시스템 관리자는 훨씬 더 힘들 것 같음.
내게는 버그가 수정되고 소프트웨어가 개선되는 과정으로 보임. 계속 찾아내면 좋겠음.
결국 핵심 인프라에 LLM이 24시간 상주하게 될 것임. 살아 있는 방화벽이자 시스템 관리자 역할을 하게 됨.
해결책은 OpenBSD나 NetBSD임.
은행에서 일하는데 코드와 의존성을 자동으로 취약점 검사하며, CVE를 해결하지 않으면 사전 운영 환경에도 배포할 수 없음. 작년부터는 사실상 하루는 새 코드, 이틀은 CVE 수정분을 배포하는 식임.
이런 글을 볼수록 소프트웨어 공학의 바퀴를 다시 발명하지 말라는 사고방식이 게으른 개발을 상당 부분 가려줬고, 우리는 괜찮은 척해왔다는 확신이 커짐. 이런 발견들이 서로 영향을 주며 이어지는 것 같음.
바퀴를 다시 발명하지 않는 건 괜찮지만, 타이어는 가끔 갈아줘야 함.
오히려 이 버그야말로 바퀴를 다시 발명하다 생겼을 가능성이 큼.
서버 패치에서 하루만이라도 쉬고 싶음.
나도 정기 일정 밖의 패치를 잔뜩 적용했고, 주말에도 더 해야 함.
나도 고객에게 우리 소프트웨어와 관련해 무엇을 업데이트해야 하고 무엇은 안 해도 되는지 이메일을 쓰지 않는 날이 있었으면 좋겠음.
버퍼 크기를 전달할 때 size_t를 권장하는 이유가 바로 이것임. 오버플로가 발생할 가능성이 낮아짐.
이 경우 size_t라면 입력 버퍼가 주소 공간의 절반보다 커야 오버플로가 발생하는데, 사실상 불가능함. 64비트 시스템은 보통 실제 주소 공간이 48비트뿐이고, 32비트 시스템은 그렇게 큰 블록을 할당할 수 없음.
모두가 size_t를 권장하는 것은 아님. 길이와 용량을 포함한 대부분의 정수는 부호 있는 정수여야 한다고 확신하는 집단도 상당하며, C와 C++에서도 입장을 고수함. 논리적으로 설득력 있는 근거는 있지만, C와 C++에서는 치명적으로 비현실적이라고 봄.
OpenSSL 4만 영향받는 것 같은데, 어떤 배포판과 시스템이 쓰고 있는지 궁금함. Heartbleed 이후로는 OpenSSL 상위 프로젝트의 새 기능을 예전만큼 적극적으로 도입하지 않는 듯함.
OpenSSL 4.2가 첫 정식 4.x LTS 릴리스라는 점을 보면 대부분의 배포판은 아직 3.x라 영향이 없을 것 같음. 최신 버전을 빠르게 도입하는 Arch와 Fedora는 이미 4.x라 영향받겠지만, 패치도 비교적 빨리 받을 것임.
지금 이 글을 쓰는 Fedora 45가 해당함. 다행히 직장에서는 패치할 것이 없어 보임.
LLM이 취약점을 찾아내는 상황에 대응하려면 LLM으로 인프라·트래픽·데이터베이스를 상시 감시해 이상 징후가 없는지 확인하는 수밖에 없을 듯함. 다른 AI 기법과 결합할 수도 있음.
취약점 연구를 진전시키는 것 자체도 중요하지만, 지금의 핵심 공학 과제는 전부 다시 작성하지 않고도 플랫폼의 복원력을 높이는 방법을 찾는 것임. 더 나은 실시간 패치, 새로운 감시 기법, 자동 분리와 워크로드 격리 등이 가능함. 패치만 계속 따라가는 전략으로는 결국 밀리게 될 것임.
그 방식이 비용 효율적이거나 실현 가능한지 모르겠음. 현실적인 방어책은 운영체제나 애플리케이션 수준의 기본 보안 강화라고 봄. Cilium Tetragon 정책이 제공하는 eBPF 규칙 같은 방식임. 새로운 기법으로 코드가 악용되지 않는다고 보장할 수 없으니, 애플리케이션이 할 수 있는 일을 최대한 제한하는 편이 최선임.
Plex가 해킹되어 내 Linux 서버에 암호화폐 채굴기가 설치됐을 때 어디서부터 손대야 할지 몰랐음. Claude로 시스템 로그를 분석하니 실행할 명령과 이유를 알려줬고, 약 10분 만에 감염을 제거할 수 있었음. Linux 초보라 시스템 복구와 보안 강화에 필요한 여러 작업을 혼자서는 알아내지 못했을 것 같음.
9.8이 실제로 어떤 위험을 뜻하는지 알고 싶음. 거의 아무도 켜지 않는 기능에서 운과 우주선 충돌까지 겹쳐야 임의 코드 실행이 가능한 수준인지, 아니면 OpenSSL 소켓을 인터넷에 노출했다면 이미 침해됐다고 봐야 하는 수준인지?
수사적인 질문일 수도 있지만, 결국 위험도를 표현하려고 만든 단순한 공식에 가까움. https://github.com/advisories/GHSA-83xj-7xh4-4p7x의 값을 쓰면 네트워크 공격 벡터 0.85, 낮은 공격 복잡도 0.77, 권한 불필요 0.85, 사용자 상호작용 불필요 0.85가 적용됨. 기밀성·무결성·가용성 영향은 각각 ‘높음’으로 0.56임.
영향 하위 점수는 1 - (1 - 0.56) * (1 - 0.56) * (1 - 0.56)으로 약 0.91이고, 여기에 6.42를 곱한 영향 점수는 약 5.87임. 악용 가능성은 8.22 * 0.85 * 0.77 * 0.85 * 0.85로 약 3.88이며, 합계는 약 9.76임. 기밀성·무결성·가용성을 동등하게 취급하는 점이 흥미로움. 물론 상당수 입력값은 사람이 정하는 주관적 평가이거나 실제 사용 환경에 따라 달라짐.
검증이 필요하지만 Java4shell과 매우 비슷할 가능성이 있음. 데이터를 base64로 변환하는 함수에 공격자가 제어하는 입력이 들어가 오버플로를 일으킬 수 있다고 추정함. 유효한 주소까지 제어할 수 있는지는 모르지만, 제약을 푼 AI라면 빠르게 알아낼 수도 있을 것 같음.