Linux 7.2, "거대한 공격 표면" 문제로 AF_ALG 지원 중단 및 오프로딩 제거 추진

다가오는 Linux 7.2 커널에서 AF_ALG가 완전히 지원 중단(deprecated)될 예정입니다. Eric Biggers는 커널의 암호화 서브시스템(cryptographic subsystem)인 "cryptodev" 트리로 대기 중인 패치에서 다음과 같이 설명했습니다.

"AF_ALG는 거의 완전히 불필요하며, 현대적인 취약점 발견 도구들의 검증을 견뎌내지 못하는 거대한 공격 표면(attack surface)을 노출하고 있습니다. 가장 최근의 취약점은 심지어 자체 웹사이트까지 갖추고 있으며, 대부분의 Linux 배포판을 확실하게 루트(root) 권한으로 탈취할 수 있는 작은 Python 스크립트를 제공하고 있습니다: https://copy.fail/

특히 LLM(대규모 언어 모델)이 취약점이 발견되는 속도를 가속화하고 있는 상황에서, 이는 지속 가능하지 않습니다. 이 기능에 투입되는 노력은 실제로 이를 사용하는 소수의 프로그램에 비해 지나치게 불균형적이며, 해당 프로그램들은 어차피 유저스페이스(userspace) 코드를 사용하는 것이 더 나을 것입니다.

이러한 문제들은 이미 많은 메일링 리스트 토론에서 언급되었습니다. 하지만 지금까지는 문서나 kconfig 메뉴 자체에 반영되지 않았으며, 취약점은 여전히 계속해서 유입되고 있습니다.

이제 지원 중단(deprecation)을 문서화하도록 합시다."

지원 중단 외에도, Linux 7.2의 AF_ALG는 관련 보안 우려로 인해 제로 카피(zero-copy) 지원이 이미 제거될 예정입니다.

또한, 지난주를 기점으로 이 패치는 진행되어 AF_ALG에서 오프-CPU(off-CPU) 암호화 지원을 제거하고 있습니다. 암호화 가속기(crypto accelerators)를 사용한 하드웨어 가속 오프로딩(hardware-accelerated offloading)을 AF_ALG에서 사용하는 것은 너무 위험하다고 판단되어 Linux 7.2에서 이미 제거될 예정입니다.

"AF_ALG는 지원 중단되었으며 권한이 없는 유저스페이스에 노출되어 있습니다. 가장 버그가 적은 알고리즘 구현체인 순수 소프트웨어 방식만을 사용하십시오."

이로 인해 AF_ALG의 주요 장점 중 하나인 off-CPU 가속기(off-CPU accelerators)를 사용할 수 있는 능력이 제거됩니다. 하지만 off-CPU 가속기를 사용하는 것은 성능과 공격 표면(attack surface) 측면 모두에서 막대한 오버헤드를 발생시킵니다. 저는 AF_ALG를 통해 가속기를 사용하는 것이 유저스페이스(userspace)에서 암호화(cryptography)를 수행하는 것보다 실제로 이득이 되는, 성능이 매우 중요한 실제 워크로드를 아직 본 적이 없습니다.

만약 off-CPU 가속기를 사용하는 것이 정말로 이득이라는 것이 밝혀진다면, 이에 실제로 적합한 새로운 API가 개발되어야 할 것입니다.

Linux 7.2 머지 윈도우(merge window)는 6월 중순에 시작될 예정이며, 많은 변화가 예상됩니다. 수많은 새로운 커널 기능뿐만 아니라, 급증하는 AI/LLM 발견으로 인한 여파를 처리하는 작업도 포함될 것입니다.