수학 분야의 AI 혁신은 과학 전반에 걸쳐 나타날 변화를 보여주는 단면입니다.

사람들은 여전히 이러한 모델들을 채팅봇과 연관 짓습니다. 하지만 그 뒤에 숨겨진 방법론들은 인간의 언어에만 국한되지 않습니다.

토큰은 텍스트 조각, DNA 염기 또는 아미노산 등을 나타낼 수 있습니다. 그러한 생물학적 시퀀스(sequence)로 모델을 학습시키면, 기능 예측이나 새로운 단백질 설계에 유용한 패턴들을 배울 수 있습니다. 이미 이런 일들이 일어나고 있습니다.

단순히 토큰화(Tokenization)만으로는 혁신이 아닙니다. 유용한 표현(representation)과 강력한 학습 방법론, 방대한 데이터셋, 그리고 컴퓨팅 자원을 결합하는 것이 핵심입니다.

이러한 방법론들은 분야를 넘나들며 적용될 수 있습니다. 다만 지식은 여전히 각 분야의 데이터를 통해 학습되어야 합니다.

이것이 제가 수학 관련 결과에 흥분하는 이유입니다. 이는 생물학, 화학 그리고 그 너머에서 탐구할 부분이 얼마나 더 많은지를 암시합니다. 솔직히 말해서 99.9%는 '토큰(token)'이라는 용어조차 모릅니다.