하이난 대학교의 한 연구원이 단 하나의 질문을 던집니다:

귀사의 현재 사용 중인 인공지능은 얼마나 취약한가요?

이를 알아내기 위해 시스템을 구축하고 있습니다. 실제 산업 데이터, 실제 공격, 실제 결과로 테스트합니다.

그가 발견한 것은 오늘날 생산 환경에서 인공지능을 사용하는 모든 CTO를 경악하게 할 것입니다.
고위험 애플리케이션에서 작동하는 모든 대형 언어 모델은 사용자 데이터를 유출하고, 편향을 증폭하며, 악의적 남용에 노출되어 있습니다. 가끔이 아니라, 체계적으로요.

귀사가 신뢰하는 인공지능은 단순한 제품이 아닙니다.

공격 표면입니다.

시스템은 롤 이스케이프 같은 은밀한 공격을 실시간으로 식별합니다. API 호출이 전형적인지 감지합니다. 맥락 편차를 발생 즉시 측정합니다. 피해가 발생하기 전에 민감한 단어 빈도를 표시합니다.

공격은 시끄럽지 않습니다. 정상처럼 보이는 요청 안에 숨어 있습니다.
인간이 알아챘을 때는 이미 너무 늦습니다.

방어 시스템이 가동된 후 악의적 코드 실행 성공률이 23%에서 1%로 떨어졌습니다.

23%에서 1%로.
네 번의 공격 중 하나가 조용히, 탐지되지 않고 통과하고 있었습니다.

새 시스템은 이전 솔루션에 비해 공격을 세 배 더 빠르게 처리합니다. 텍스트 품질 저하 없음. 속도 저하 없음. 어떤 타협도 없습니다.

세 배 더 빠름. 제로 타협.

출력 레이어는 모델이 생성한 모든 콘텐츠 조각의 출처를 추적하는 신경망 워터마킹 시스템을 추가합니다.

인공지능이 쓴 모든 단어가 추적됩니다. 출처가 확인됩니다. 책임이 있습니다.

이것은 미래의 문제가 아닙니다.

대형 기업의 99%가 현재 생산 환경에서 인공지능을 사용하고 있습니다.
대부분은 무슨 일이 일어나고 있는지 모릅니다.

충격적: 새로운 연구에 따르면, 인공지능이 이제 스스로 인공지능 연구를 수행할 수 있음을 보여줍니다.

모델을 최적화하는 데 그치지 않고…

완전히 새로운 모델 아키텍처를 스스로 발견하고 있습니다.

"모델 아키텍처 발견을 위한 AlphaGo 순간"이라는 제목의 논문은 ASI-Arch라는 자율