토큰 수준에서의 Transformer와 하이브리드 모델 비교
요약
Transformer 아키텍처와 하이브리드 모델 간의 성능을 토큰 수준에서 비교 분석한 연구입니다. 모델의 효율성과 연산 특성을 심층적으로 다룹니다.
핵심 포인트
- Transformer와 하이브리드 모델의 토큰 단위 비교 분석
- 모델 아키텍처에 따른 연산 효율성 차이 규명
- 토큰 수준에서의 성능 및 동작 특성 연구
토큰 수준에서의 Transformer와 하이브리드 모델 비교
Yanhong Li
William Merrill
http://creativecommons.org/licenses/by/4.0/
cs.CL
cs.AI
⚠️ [IMG:N] 형식 토큰은 이미지 placeholder 입니다. 번역하지 말고 원래 위치에 그대로 유지하세요.
⚠️ [IMG:N] 형식 토큰은 이미지 placeholder 입니다. 번역하지 말고 원래 위치에 그대로 유지하세요.
<< /A << /D (cite.merrill2024illusion) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 401.403 158.2 423.121 169.104 ] /Subtype /Link /Type /Annot >>
endobj
28 0 obj
<< /A << /D (cite.grazzi2025unlocking) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 426.356 158.2 476.312 169.104 ] /Subtype /Link /Type /Annot >>
endobj
29 0 obj
<< /A << /D (cite.grazzi2025unlocking) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 479.271 158.2 500.99 169.104 ] /Subtype /Link /Type /Annot >>
endobj
30 0 obj
<< /A << /D (cite.waleffe2024empirical) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 448.078 136.381 503.711 147.285 ] /Subtype /Link /Type /Annot >>
endobj
31 0 obj
<< /A << /D (cite.waleffe2024empirical) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 107.004 125.472 129.32 136.376 ] /Subtype /Link /Type /Annot >>
endobj
32 0 obj
<< /A << /D (cite.merrill2026olmohybrid) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 133.006 125.472 186.708 136.376 ] /Subtype /Link /Type /Annot >>
endobj
33 0 obj
<< /A << /D (cite.merrill2026olmohybrid) /S /GoTo >> /Border [ 0 0 0 ] /C [ 0 1 0 ] /H /I /Rect [ 190.11 125.472 212.426 136.376 ] /Subtype /Link /Type /Annot >>
endobj
34 0 obj
<< /A << /S /URI /URI (https://arxiv.org/abs/2606.20936v1) >> /BS << /W 0 >> /NM (fitz-L0) /Rect [ 12 223.78998 32 568.21 ] /Subtype /Link >>
endobj
35 0 obj
<< /Length 10 /Filter /FlateDecode >>
stream
x�+�-����|
endstream
endobj
36 0 obj
<< /Filter /FlateDecode /Length 2912 >>
stream
xڭYY��!�����mE�D�K6��?6��?�*��,�—X�����)�b[���������K�@=Ż��þ�Ɓ�D yP�}�Τ̂$Óv��>���m �,R��J���C)���Aġ�h�w� T���jp�ӗϻ�f��-�_�o�8*�üvZk� ��+��pn&3���av�� ��H���K]{w���so��V
:8?���!O�W s�H
�+��@�4�D�dy� ���S�Ͼ�U��.��Tq�|��p���|�*�V�#�T]M��_�����n܄�l'�7�8�i�45��@�2��+��R�f�����+ܴ2Q?X�(�(�mK�Jg1<�
데이터가 손상되었거나 유효하지 않은 바이너리 형식으로 인해 해당 부분을 번역할 수 없습니다. 입력된 텍스트가 깨진 인코딩(mojibake) 상태이므로, 정상적인 텍스트를 제공해 주시면 즉시 번역을 진행하겠습니다.
입력된 청크는 PDF 파일의 내부 구조(객체 및 리소스 정의)를 나타내는 메타데이터 또는 바이너리 데이터 조각으로 보입니다. 이는 사람이 읽을 수 있는 일반적인 텍스트 콘텐츠가 아니므로, 번역할 내용이 없습니다.
내는 메타데이터 또는 바이너리 데이터 조각으로 보입니다. 이는 사람이 읽을 수 있는 일반적인 텍스트 콘텐츠가 아니므로, 번역할 내용이 없습니다.
이 부분은 PDF 내부의 구조적 메타데이터(metadata) 또는 바이너리 데이터 조각으로 보입니다. 사람이 읽을 수 있는 일반적인 텍스트 콘텐츠가 아니므로, 번역할 내용이 없습니다.
AI 자동 생성 콘텐츠
본 콘텐츠는 Lobste.rs AI의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기