PHAGE: 표현 학습을 위한 특허 이질적 어텐션 가이드 그래프 인코더

요약

PHAGE는 특허 청구항의 복잡하고 계층적인 종속 구조를 효과적으로 모델링하기 위해 설계된 새로운 그래프 인코더입니다. 기존 방식들이 청구항을 단순 텍스트로 선형화하여 구조적 정보를 손실하는 문제를 해결합니다. PHAGE는 결정론적 파이프라인으로 관계 유형을 이질적인 엣지로 분리하고, 연결성 마스크와 학습 가능한 바이어스를 통해 토폴로지 정보를 어텐션 메커니즘에 통합함으로써 청구항 수준의 구조를 유지하며 문맥적 이해도를 높입니다. 또한, 이중 그라뉼러리티 목적 함수를 사용하여 특허 내부 구조와 외부 분류학 모두에 대한 표현 학습을 최적화합니다.

핵심 포인트

• PHAGE는 특허 청구항의 계층적 종속 구조(dependency structure)를 그래프 형태로 직접 인코딩하여 정보 손실을 방지합니다.
• 결정론적 파이프라인을 통해 법률 인용과 규칙 기반 관계를 이질적인 엣지로 분리하여 모델의 해석 가능성과 정확도를 높입니다.
• 연결성 마스크와 관계 인식 바이어스를 사용하여 청구항 수준의 토폴로지를 트랜스포머의 토큰 어텐션 메커니즘으로 효과적으로 끌어올립니다.
• 이중 그라뉼러리티 대조 목적 함수를 통해 특허 내부 구조(intra-patent)와 외부 분류학(inter-patent) 모두에 대한 강력한 표현 학습을 수행합니다.