Computer Science > Machine Learning

제목: Multi-Stream LLMs: 사고, 입력, 출력의 병렬 스트림을 통한 언어 모델의 병목 현상 해소

PDF HTML 보기 (실험적) 초록: 언어 모델(Language Model) 능력의 지속적인 향상은 코딩이나 컴퓨터 사용 애플리케이션과 같은 자율 에이전트(Autonomous Agents)의 동력으로서 광범위한 사용을 가능하게 했습니다. 그러나 이러한 시스템의 핵심은 ChatGPT와 같은 초기 지시어 튜닝(Instruction-tuned) 모델 이후로 크게 변하지 않았습니다. 고급 AI 에이전트조차도 단일 계산 스트림(Single stream of computation) 내에서 사용자, 시스템, 자기 자신(즉, 사고 사슬 (Chain-of-thought)), 그리고 도구와 순차적으로 메시지를 교환하는 메시지 교환 형식으로 작동합니다. 채팅 모델의 이러한 단일 스트림 병목 현상은 다음과 같은 여러 제한 사항을 초래합니다: 에이전트는 읽는 동안 행동(출력 생성)할 수 없으며, 반대로 쓰는 동안 새로운 정보에 반응할 수 없습니다. 마찬가지로, 에이전트는 생각하는 동안 행동할 수 없으며, 정보를 읽거나 행동하는 동안 생각할 수 없습니다.

본 연구에서는 순차적인 메시지 형식을 위한 지시어 튜닝(Instruction-tuning)에서 각 역할을 별도의 스트림으로 분리하여 다중 병렬 계산 스트림(Multiple, parallel streams of computation)을 위한 지시어 튜닝으로 전환함으로써 모델의 병목 현상을 해소할 수 있음을 보여줍니다. 언어 모델의 모든 순전파(Forward pass)는 여러 입력 스트림으로부터 동시에 읽고 여러 출력 스트림에서 토큰을 생성하며, 이 모든 것은 이전 타임스텝(Timesteps)에 인과적으로 의존합니다. 우리는 이러한 데이터 중심의 변화가 위에서 설명한 여러 사용성 제한을 해결하고, 병렬화(Parallelization)를 통해 모델 효율성을 개선하며, 관심사의 더 나은 분리(Separation of concerns)를 통해 모델 보안을 강화하고, 모델 모니터링 가능성(Monitorability)을 더욱 향상시킬 수 있다고 주장합니다.

서지 및 인용 도구

이 논사와 관련된 코드, 데이터 및 미디어

데모

추천 및 검색 도구

arXivLabs: 커뮤니티 협력자와 함께하는 실험적 프로젝트

arXivLabs는 협력자들이 우리 웹사이트에서 직접 새로운 arXiv 기능을 개발하고 공유할 수 있도록 지원하는 프레임워크입니다.

arXivLabs와 함께하는 개인 및 조직 모두 개방성, 커뮤니티, 탁월함, 그리고 사용자 데이터 프라이버시라는 우리의 가치를 수용하고 받아들였습니다. arXiv는 이러한 가치에 전념하고 있으며, 이를 준수하는 파트너와만 협력합니다.

arXiv 커뮤니티에 가치를 더할 프로젝트 아이디어가 있으신가요? arXivLabs에 대해 더 알아보기