Insights
AI가 자동으로 큐레이션·번역·정리하는 기술 동향 피드입니다.
arXivAI 번역논문
SWEPatchTest: 재현을 넘어선 소프트웨어 테스트 평가
SWEPATCHTEST는 코딩 에이전트가 패치를 평가하는 능력을 측정하는 새로운 테스트 생성 벤치마크입니다. 이 벤치마크는 이슈 재현, 올바른 패치 수용, 잘못된 패치 거부 세 가지 기준을 종합적으로 측정합니다. 특히 Joint Validation Rate (JVR)은 기존의 단일 참조 평가가 놓치는 실패를 노출하며, 이를 통해 에이전트 학습 데이터 큐레이션에 활용될 수 있습니다.
10월 14일0
arXivAI 번역논문
SWE-MISBEHAVIOR: 소프트웨어 코딩 에이전트의 경계 위반 오작동 평가 및 완화
본 논문은 코딩 에이전트의 경계 위반 오작동을 진단하기 위한 최초의 분류 체계(SWE-MISBEHAVIOR)와 평가 프레임워크를 제시합니다. 이 프레임워크는 코드 생성, 파일 관리 등 세 가지 액션 공간에 걸쳐 11가지 고유한 오작동 유형을 다룹니다. 또한, 에이전트의 실패를 줄이는 적응형 프레임워크 CODE-KIT도 제안하여 성능 향상을 입증했습니다.
10월 14일0
arXivAI 번역논문
불안정한 성장으로부터의 신뢰할 수 있는 메모리: 무작위화된 실험을 통한 자체 작성 에이전트 플레이북 큐레이션
본 논문은 언어 모델 에이전트의 성능을 안정적으로 개선하기 위한 메모리 시스템인 '플레이북'에 대한 새로운 접근 방식을 제안합니다. 기존 방식은 에이전트 자체 판단에 의존하여 불안정성이 높았으나, 연구진은 '무작위 블록 큐레이션(RBC)'이라는 방법을 통해 교훈의 실제 효과를 측정하고 플레이북을 구축했습니다.
10월 14일1
arXivAI 번역논문
음성 신호로부터의 놀라움(Surprisal) 추정
본 연구는 텍스트에 의존하는 기존 언어 모델(LMs)의 한계를 극복하고, 음성 LM을 사용하여 음성 신호로부터 직접 놀라움(Surprisal)을 추정하는 방법을 제시합니다. 이를 통해 '놀라움'이 실현체별 음향 입력에 정의되어야 할지, 아니면 추상적인 언어 단위에 정의되어야 하는지에 대한 근본적인 질문을 탐구했습니다.
10월 14일1
arXivAI 번역논문
복사 자체가 근거가 될 수 없다: 작성된 문장 크레딧을 활용한 충실도 높은 장문 RAG 학습
본 논문은 RAG 답변에서 출처가 불분명한 주장을 줄이기 위해 '충실도 보상'이 사용되지만, 이 보상이 단순히 텍스트를 복사하는 방식으로 속임수(hacked)로 악용될 수 있음을 지적합니다. 이에 따라 작성된 문장 자체에 크레딧을 부여하는 Authored-Sentence Credit (ASC) 방법을 제안하며, 이를 통해 모델이 근거 기반의 작문 능력을 향상시켰습니다.
10월 14일1
arXivAI 번역논문
양방향 KL 제약 조건 기반의 소형 언어 모델(SLM)을 위한 교사 안내 도구 학습
본 논문은 소형 언어 모델(SLMs)의 도구 사용 능력을 향상시키기 위해 '선택적 교사 안내 정책 최적화(SeTPO)'를 제안합니다. SeTPO는 역 KL 유도 토큰 레벨 피드백과 보조 전방 KL 감독을 통합하여, 학생의 탐색과 교사의 시연 감독을 효과적으로 조율합니다. 실험 결과, SLM이 다양한 규모에서 기존 방법론보다 우수한 성능을 입증했습니다.
10월 14일1
arXivAI 번역논문
Readout Scaling을 통한 희소 특징 복구
본 연구는 Readout Scaling의 영향을 분석하고, 'readout-canonicalized decision-space (RC-DS)' 좌표를 제안합니다. RC-DS는 특이값 게인 제거 과정에서 결정 정보를 보존하며, 기존 방법 대비 희소 요인 복구율을 크게 향상시킵니다. 이는 훈련 기하학만을 분리하여 정보 손실 없이 학습의 효과를 개선하는 방법을 제시합니다.
10월 14일1
arXivAI 번역논문
ChatGPT의 건강 조언은 얼마나 안전한가? 네 개 글로벌 사우스 국가의 실제 사용자 대화에서 얻은 증거
본 연구는 글로벌 사우스 지역의 실제 사용자 대화 데이터를 활용하여 ChatGPT가 제공하는 건강 조언의 안전성을 최초로 평가했습니다. 인도, 나이지리아 등 4개국에서 수집된 1,252명의 데이터 코퍼스를 분석한 결과, 전체 건강 관련 대화 중 약 5분의 1이 높은 위험 등급을 받았습니다. 특히 사용자의 축적된 컨텍스트를 고려했을 때 안전하다고 여겨졌던 대화의 상당수가 특정 사용자에게는 위험할 수 있음을 밝혀냈습니다.
10월 14일1
arXivAI 번역논문
이론 규모의 자동 형식화(Autoformalization)를 위한 충실성 정렬
본 논문은 자동 형식화(Autoformalization)의 핵심 속성인 '충실성'을 이론 규모에서 평가하는 새로운 방법을 제안합니다. 기존 방법들이 진술 수준에 머물렀던 한계를 극복하기 위해, 본 연구는 비형식적-형식적 진술 간의 구(phrase)-수준 대응 관계를 식별하고 문맥적 해석을 고려하여 충실성을 레이블링하는 문제로 공식화했습니다. 이를 위한 최초의 이론 규모 벤치마크인 FaithAlign과 보조 세트 FaithAlign-Gap을 공개했습니다.
10월 14일1
arXivAI 번역논문
판정관들은 참조를 따른다: 도구 호출 인자 검증에서의 유도 격차
본 연구는 LLM 에이전트가 제안하는 도구 호출 인자 값의 검증 과정에서 '유도 격차(derivation gap)'라는 현상을 발견했습니다. 이는 입력에 해당 값이 무엇인지 명시적인 참조 텍스트가 없을 때 판정관들이 올바른 값을 받아들이는 빈도가 떨어진다는 것을 의미합니다. 연구진은 DeRef라는 새로운 모델을 제안하여, 후보 값 없이 전체 기록을 읽어 판정관용 참조를 작성함으로써 이 격차를 해소하고 성능을 크게 향상시켰습니다.
10월 14일1
arXivAI 번역논문
임프린팅: 지식 증류가 학생 모델의 행동을 변화시킬 수 있다
본 연구는 지식 증류(Knowledge distillation) 과정에서 학생 모델이 단순히 작업 능력을 습득하는 것을 넘어, 출처 교사(teacher)의 행동적 경향성까지 흡수할 수 있음을 밝혀냈습니다. 이를 '임프린팅(imprinting)'이라 명명했습니다. 이 현상은 교사의 안전-실용주의적 성향에 따라 학생 모델의 다운스트림 결정이 특정 방향으로 이동하는 것을 의미합니다.
10월 14일1
arXivAI 번역논문
언어 모델 로짓의 기하학: 일반적인 구조와 학습된 편차
본 논문은 자기회귀 언어 모델의 로짓 벡터가 예측 컨텍스트, 아키텍처, 스케일에 걸쳐 놀라울 정도로 일관된 로그-선형 관계를 따른다는 것을 경험적으로 분석했습니다. 이 관계는 $ ext{z}_{(r)} ext{에 대해 } ext{log-linear relation} ext{을 보이며, 이는 언어 모델의 로짓 기하학에 대한 체계적인 최초 분석입니다. 또한, 학습된 모델은 초기화 기준선보다 훨씬 높은 기울기 $\alpha$ 값을 가지며, 이 값이 예측 성능과 상관관계가 있음을 보여줍니다.
10월 14일2
arXivAI 번역논문
검색 불일치(Retrieval Disagreement)를 신호로 활용: 다국어 임베더 진단 및 제어
본 논문은 다국어 밀집 검색기에서 발생하는 '검색 불일치(Retrieval Disagreement)' 현상을 분석했습니다. 이는 언어 간 공유 인덱스 사용 시 특정 언어의 관련 문서가 다른 언어에 의해 왜곡되어 순위가 낮아지는 문제 때문입니다. 이를 해결하기 위해, 논문은 '불일치 기반 제어(disagreement-guided steering)'라는 새로운 방법을 제안합니다.
10월 14일1
arXivAI 번역논문
ProTok: 모듈식 다중 코드북 양자화를 통한 통합 단백질 토큰화
ProTok은 단백질 서열, 구조, 기능 주석 세 가지 양식을 통합적으로 인코딩하는 모듈식 다중 코드북 양자화 기반의 토크나이저입니다. 이 토크나이저는 재학습 없이도 다양한 조합의 양식 부분 집합에서 유연한 추론을 지원하며, 여러 벤치마크에서 기존 구조 전용 토크나이저를 능가하는 성능을 입증했습니다.
10월 14일1
arXivAI 번역논문
트랜스포머 기반 언어 모델을 위한 그래프 메타네트워크
본 논문은 트랜스포머 기반 언어 모델의 가중치 공간 학습에 대한 그래프 메타네트워크 접근 방식을 제안합니다. 기존 연구가 포착하지 못했던 어텐션 메커니즘의 복잡한 대칭성(일반 선형 대칭성, 헤드 순열 등)을 고려하여, 완전한 디코더 전용 모델의 가중치 공간 대칭군에 불변하는 그래프 구성을 제시합니다. 이를 통해 새로운 태스크를 위한 두 가지 트랜스포머 집단 데이터셋도 소개했습니다.
10월 14일1
arXivAI 번역논문
Lifting: 중간 회로 측정(MCM)을 위한 양자 상태 판별 프레임워크
본 논문은 양자 컴퓨팅의 핵심 과제인 중간 회로 측정(MCMs)을 위한 신뢰성 높은 양자 상태 판별(QSD) 프레임워크 'Lifting'을 제안합니다. Lifting은 반복 인코딩과 신경 디코딩, 그리고 현장 교정을 결합하여 기존 QSD의 오류 한계를 극복하고 동적 환경에서의 정확도를 높입니다.
10월 14일2
arXivAI 번역논문
Few-Step 확산 모델을 위한 온-정책 증류 간소화 및 개선
본 논문은 확산 및 흐름 모델의 샘플링 비용을 줄이는 Few-step 증류 기법을 개선한 Simplified Matching Distillation (SMD) 프레임워크를 제안합니다. SMD는 온-정책 속도 회귀와 훈련 전용 잔차 프록시(Pivot)를 사용하여, 복잡한 보조 모델이나 적대적 훈련 없이도 강력한 Few-step 기반 생성기를 구축할 수 있습니다.
10월 14일1
arXivAI 번역논문
적은 레이블로 여러 질문을 재보정하기: Minimax 비율 및 식별 한계
본 논문은 적은 레이블로 여러 관련 예측 문제(질문)를 동시에 재보정하는 방법을 연구합니다. 복합 위험을 최소화하기 위한 이론적 하한을 제시하며, 통합 등각 적합(pooled isotonic fit) 기법이 다양한 조건에서 효과적임을 증명했습니다. 또한, 질문 데이터의 법칙에 따라 식별 후회와 정보 한계를 분석했습니다.
10월 14일2
arXivAI 번역논문
두 개 가격에 하나 제공: 곡률 인식 가지치기가 영향 함수도 보존한다
본 논문은 사후 훈련(Post-training pruning) 시 희소 모델과 밀집 모델 간의 그래디언트 정렬을 명시적으로 보존하는 새로운 곡률 인식 목적 함수를 제안합니다. 이를 구현한 ADMM 기반 최적화 도구인 CACTUS는 기존 방법 대비 월등히 빠른 속도와 높은 성능 향상을 보여줍니다. 특히 영향 함수(influence function) 보존을 통해 효과적인 데이터 선택 및 모델 미세 조정에 활용될 수 있습니다.
10월 14일1
arXivAI 번역논문
위험 지향 최적화를 이용한 잡음이 있는 보손 시스템의 상태 준비 충실도 제어
본 연구는 보손 양자 컴퓨터의 상태 준비 과정에서 기존 평균 충실도 최적화 방식의 한계를 극복하고자 합니다. 위험 지향 최적화(risk-sensitive optimization)를 도입하여, 전체 앙상블의 평균 성능보다는 높은 충실도를 가진 특정 순수 상태 샘플링에 초점을 맞춥니다. 이를 통해 불충실도를 크게 감소시키고 원하는 확률과 낮은 불충실도 임계값 사이의 트레이드오프 제어가 가능함을 입증했습니다.
10월 14일1