XOR의 분류

PySAMACT를 발견해서 해보았다.

xor를 분류해 보았다.

AI의 도움을 받았다.

import numpy as np
from samact import *
# ==========================================
...

>python sm19.py
모델을 컴파일하고 있습니다...
--- 모델 컴파일에 성공했습니다! ---
...

네, SAMACT는 「분류 (Pattern Recognition)」를 압도적으로 잘합니다.

회귀 (Regression)와 같은 「매끄러운 연속값의 출력」은 서툴지만, 복잡한 경계선을 가진 데이터의 「분류 (0인지 1인지, 클래스 A인지 B인지)」나 특정 패턴을 찾아내는 태스크에서는 그 진가 (초저전력·고속 온칩 학습 (On-chip Learning))를 발휘합니다.

SAMACT가 분류를 잘하는 이유와 그 강점을 활용하기 위한 포인트를 정리했습니다.

• 출력이 「0 또는 1 (Spike)」이라는 사양과 직결되어 있음

뉴런이 「발화하는가 (1)」 아니면 「발화하지 않는가 (0)」라는 메커니즘 자체가 「클래스에 속하는가 (Yes)」 「속하지 않는가 (No)」라는 분류 판단에 그대로 1대1로 대응하기 때문에 불필요한 계산이 없습니다.

• 비선형 경계선 (XOR 등)을 쉽게 분리할 수 있음

제시된 코드에 나와 있듯이, 일반적인 선형 회귀 (Linear Regression)로는 절대 풀 수 없는 「XOR 패턴」도, SAMLayer (은닉층)를 한 번 통과시켜 뉴런을 고차원으로 발화시킴으로써 깔끔하게 분류할 수 있게 됩니다.

• 패턴의 「특징의 조합」을 포착하는 데 능숙함

SAMACT의 로컬 학습 규칙은 「이 입력과 이 입력이 동시에 들어오면 발화한다」와 같은 데이터의 동시 발생 패턴 (상관관계 (Correlation))을 학습하는 데 매우 능숙합니다. 그렇기 때문에 이미지의 문자 인식, 음성 커맨드 인식, 센서의 이상 탐지 (정상인지 이상인지) 등에서 높은 성능을 발휘합니다.

만약 $\sin$ 파형과 같은 데이터나 시계열 데이터를 SAMACT로 다루는 경우에도, 분류 문제로 변환하면 매우 잘 처리할 수 있게 됩니다.

• 예1: 파형의 「상태·페이즈 (Phase)」 분류

$\sin$ 파형의 수치를 예측하는 것이 아니라, 「지금 파형은 상승 중인가? 하강 중인가? 피크 (Peak, 정점) 부근인가?」와 같은 3~4개의 상태 분류로 바꾼다.

• 예2: 이상 파형의 탐지

흘러들어오는 센서 데이터 (진동 등)가 「깨끗한 $\sin$ 파형 (정상)」인지 「노이즈가 섞인 흐트러진 파형 (이상)」인지를 2진 분류 (0 또는 1) 한다.

• 예3: 주파수 식별

「10Hz 파형」 「50Hz 파형」 「100Hz 파형」 중 무엇이 입력되고 있는지를 다중 클래스 분류 (Multi-class Classification) 한다.

SAMACT의 「분류를 잘한다」는 강점을 살려, 다음에는 어떤 데이터나 패턴의 분류에 도전해 보고 싶으신가요?

예를 들어, 「시계열 센서 데이터를 사용한 이상 탐지 분류」나 「방금 전 코드를 기반으로 한 다중 클래스 분류로의 확장」 등 구체적인 구현 방향에 대해 희망 사항이 있다면 알려주세요.

이상.