안녕하세요, 여러분. 최근 ICML 워크숍에서 발표한 저의 연구를 소개하고 싶습니다. GitHub 링크: genji970/SRM-LoRA: official implementation of "SRM-LoRA: Sub-Riemannian-Metric Updates for Mitigating LLM Hallucination in Low-Rank Adaptation" ICML2026 Workshop FoGen Shot summarization of Paper.

"" SRM-LoRA는 LLM 환각을 줄이기 위해 설계된 sub-Riemannian에서 영감을 받은 LoRA 방법입니다. 이는 민감도 기반의 Riemannian metric을 구축하여 LoRA 파라미터 공간 내의 역전파(backward gradients)를 재구성합니다. 이 metric은 높은 비용의 업데이트 방향을 억제하는 동시에 순방향 계산 및 추론 비용은 변경하지 않습니다. HaluEval-QA로만 학습되었음에도 불구하고, SRM-LoRA는 관련 영역과 분포 외(out-of-distribution) 벤치마크 모두에서 사실적 신뢰도를 향상시킵니다.""

실험 결과: "https://preview.redd.it/3uyvbtoa76dh1.png?width=740&format=png&auto=webp&s=4431233186dffae885db8e989f009bf37710fe22"

제 관점에서는, 수학이 LLM과 같은 최신 AI 시스템의 성능 향상 맥락에서 효과적으로 사용되지 못하는 이유는, 무엇이 수학 이론의 요소가 되어야 하는지에 대한 논의 진전이 느렸기 때문이라고 생각합니다. 예를 들어, Riemannian metric을 사용한다고 가정해 봅시다. LLM의 파라미터 공간에서 역전파에 의해 생성되는 업데이트 벡터는 학습 데이터를 포함하는 손실 목적 함수(loss objective)에서 발생합니다. 그러나 만약 우리가 Riemannian metric을 구성하기 위해 학습 가능한 파라미터를 도입하고, 그 학습 가능한 파라미터들을 주된 훈련 신호와 동일한 신호를 통과시켜 학습시킨다면, 이는 단순히 더 복잡한 형태의 훈련에 불과할 수 있으며 오버피팅(overfitting) 가능성을 높일 뿐일 수 있습니다. 그렇다면 어떻게 일반화할 수 있는 방향으로 나아가면서 수학 이론의 이점을 얻을 수 있을까요? 본 논문에서는 Riemannian metric을 손실 신호에 대한 LLM 모델 파라미터 변화율을 기반으로 구축합니다. 그렇게 정의하는 이유는 다음과 같습니다.

학습할 수 있는 데이터나 분포가 아무리 좋아도, 실제로는 여전히 환각(hallucinations)을 초래하는 과적합(overfitting)의 가능성이 높습니다. 따라서 리만 계량(Riemannian metric)을 구성하는 데 사용되는 비용은 이 민감도를 사용하여 정의되는데, 이는 간단히 말해 gradient(loss)/gradient(parameter)로 이해할 수 있습니다. 다시 말해, 단순히 더 복잡한 계량을 도입하기보다는, 리만 계량은 훈련 데이터에서 생성된 업데이트에 제동 장치 역할을 합니다. 이것이 주요 신호입니다. 저는 이론 A와 이론 B를 사용할 때, 이론 A의 요소들과 이론 B의 요소들이 각각 특정 상황에 맞게 적절히 설계된다면, 수학을 AI에 더 깊이 통합할 수 있다고 믿습니다. submitted by /u/Round_Apple2573 to r/MachineLearning [link] [comments]