본문으로 건너뛰기
arXiv논문2026. 11. 18. 06:16
가중치 및 캐시 기반 프로그래밍: LLM이 테이블형 파운데이션 모델(TFMs)을 제어하다 대표 이미지

가중치 및 캐시 기반 프로그래밍: LLM이 테이블형 파운데이션 모델(TFMs)을 제어하다

원문 발행 2026. 11. 16. 03:25원문 언어 영어AI 한국어 번역arXiv cs.LG (Machine Learning) 원문 보기

요약

본 연구는 LLM이 가중치 공간 프로그래밍을 통해 테이블형 파운데이션 모델(TFMs)의 통계적 계산을 직접 제어할 수 있음을 보여줍니다. GPT-6 Astra를 활용하여 초기화된 가중치로부터 TFM을 프로그래밍하고, 기존 모델의 오류를 진단 및 수정하는 방법을 제시했습니다. 또한, 가중치 수정 없이 KV-캐시 편집 프로그램을 작성하여 예측 결과를 조작하는 새로운 방식을 시연하며 LLM 기반 프로그래밍의 가능성을 입증했습니다.

핵심 포인트

  • LLM이 가중치 공간 프로그래밍으로 TFM 내부 계산을 제어할 수 있음.
  • 초기화된 가중치만으로도 높은 성능의 TFM 구현이 가능함.
  • 모델 오류(signed-product regression failure)를 진단하고 수정하는 능력을 입증함.
  • 가중치 수정 없이 KV-캐시 편집을 통해 예측 결과를 조작할 수 있음.

AI 자동 생성 콘텐츠

본 콘텐츠는 arXiv cs.LG (Machine Learning)의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.

원문 바로가기
0

댓글

0