함선 항해일지를 인터넷에서 찾을 수 있는지 궁금함. 가능하다면 모델이 가짜 키와 그에 맞는 메시지를 만들어냈을 수도 있음. 가능성은 낮다고 보지만 검토할 필요는 있음.
기사에서는 Astra가 “TRUPPENVERSCHIEBUNG”의 사용 시작일은 1918년 12월 9일로 알려져 있지만, 이 메시지는 그보다 앞선 11월 27일에 전송되어 그동안 풀리지 않았을 것으로 추측함. 날짜가 어긋나는 이유는 알 수 없다고 함.
즉, 이미 알려진 키를 사용한 것이지 아무 근거 없이 키를 만들어낸 게 아님. 유일한 특이점은 기록보다 약 2주 먼저 이 키가 쓰였다는 점임. 통신병이 암호책의 잘못된 페이지를 봤을 수도 있지 않을까?
기사에 따르면 Astra는 결과를 검증하려고 원본 항해일지를 확인했고, 영국 순양함 HMS Canterbury가 실제로 1918년 11월 24일 세바스토폴에 도착했다는 사실을 찾았다고 함. 바로 뒤에 원본 일지 사진도 실려 있음.
설명된 암호에는 그런 조작이 가능할 만큼의 자유도가 없다고 봄.
암호 전문가는 아니지만 TRUPPENVERSCHIEBUNG은 실제 단어 아닌가? Google에 따르면 ‘병력 이동’이라는 뜻임.
그렇다면 왜 어려웠는지 이해가 안 됨. 사전 공격을 해보고 결과가 문장을 이루는지 확인하면 되지 않을까? 컴퓨터와 독일어 사전만 있으면 집에서도 가능할 것 같은데, 내가 뭘 놓친 걸까? 글자 재배열에 사전에 알 수 없는 비결정적 무작위성이 있었던 걸까?
인간은 알려진 탐색 공간조차 빠짐없이 일관되게 뒤지는 데 능숙하지 못함.
실제 단어가 맞으며, 심지어 The History and Principles of German Military Ciphers, 1914–1918에 예시로 등장함.
그래도 이걸 이용해 정치인들에게 “Astra가 최첨단 암호를 깼으니 AI를 금지해야 한다”고 해보자는 건가 싶음.
ADFGVX의 두 글자 조합을 알파벳 25자에 대응시키는 폴리비오스 정사각형만 쓰는 단순 치환이 아님. 먼저 각 글자를 ADFGVX의 두 글자로 바꾼 뒤, 키를 이용한 열 전치를 추가로 수행함.
아니면 학습 데이터에 들어 있던 인간의 풀이를 찾아서 훔친 것일 수도 있음.
정말 이런 여론 조작이라면, GPT Astra를 오픈소스로 공개해서 직접 실행해보게 하면 됨. 어차피 전부 훔친 정보 아닌가?
에이전트가 암호 풀이의 재미를 전부 망치고 있음. 반박해보길 바람.
인간은 먼저 감정적으로 결론을 내리고, 그 뒤에는 기존 믿음을 정당화하는 증거만 받아들이므로 생각을 바꾸려는 시도는 시간 낭비라고 봄.
LLM 활용 중 압도적으로 가장 좋아하는 건 음식 메뉴 번역임. Gemini는 손으로 쓴 일본어까지 완벽하게 처리해줌.
다만 잃는 것도 있지 않을까 싶음. 이제는 가물가물한 히라가나를 더듬어 읽을 일이 없어짐.
기사로 돌아가서, 우리의 새로운 LLM 신은 자신조차 풀지 못할 만큼 강력하게 암호화할 수 있을까? 물론 키 없이 푼다는 조건임.
이제는 미쉐린 스타 고급 식당에서도 소믈리에에게 추천을 부탁하는 대신 메뉴 사진을 찍어 AI에 묻는다고 함. 사라지는 것은 결국 인간 사이의 소통임. 수십 년간 진행된 흐름이 더 빨라졌을 뿐임.
Astra에게 기사에서 인용한 J. Rives Childs의 The History and Principles of German Military Ciphers 214~215쪽 내용을 설명해달라고 요청함. 답은 설명할 수 없고, 인터넷에서도 그 책을 찾을 수 없다는 것이었음.
조금 주제에서 벗어나지만, OpenAI나 Anthropic에 400만~1,000만 토큰의 문맥 창을 갖춘 비공개 모델이 있는지 궁금함.
미국 정부는 일반에 공개된 기술보다 훨씬 뛰어난 비공개·맞춤형 버전을 보유하는 경우가 흔하다고 알고 있음.
아닐 것 같음. 문맥이 길어지면 비용도 늘지만 핵심은 지능 유지임. fable 같은 최첨단 모델도 20만 토큰을 넘으면 haiku 수준으로 떨어짐.
지난 18개월 동안 전체 문맥은 약 100만 토큰, 실질적으로 유용한 문맥은 약 20만 토큰에 머물렀고 발전 조짐도 거의 없음. 1,000만 토큰의 문맥 창을 갖추고 200만 토큰까지 지능을 유지하는 모델이라면 큰 돌파구가 될 것임.
문맥 창 제한은 주로 모델 아키텍처의 제약 때문이라고 어렴풋이 이해하고 있음. 특별히 긴 문맥을 지원하는 버전이 있을 수도 있지만, 모델 자체의 엄격한 한계일 수도 있음.