스파이킹 신경망

뇌의 뉴런처럼 숫자 값 대신 스파이크가 언제 터지는지로 정보를 주고받는 신경망으로, 의미 있는 입력이 들어올 때만 계산하고 나머지 시간에는 쉰다. 이벤트 카메라 영상, 센서 시계열처럼 끊임없이 들어오는 데이터를 적은 전력으로 처리해야 하는 엣지 기기에서 쓴다.

뉴런은 쌓였다가 넘치면 터진다

가장 많이 쓰는 뉴런 모델은 '새는 적분-발화(LIF)' 방식이다. 들어오는 스파이크가 뉴런 안의 전위를 올리거나 내리고, 입력이 없으면 이 값은 서서히 새어 나간다. 값이 문턱을 넘으면 뉴런이 스파이크를 쏘고 다시 낮은 값으로 돌아간다. 그래서 같은 입력이라도 언제 들어왔는지에 따라 결과가 달라진다.

학습은 세 가지 길 중에 고른다

스파이크는 켜짐/꺼짐이라 일반 역전파를 그대로 쓰기 어렵다. 그래서 상황에 맞춰 학습 방법을 고른다.

전용 칩에서 써야 전력 이득이 난다

지금 쓰는 대부분의 하드웨어는 벡터에 가중치를 곱하는 일반 신경망용으로 설계돼, SNN을 돌려도 전력 이점이 크게 줄어든다. 저전력 효과를 보려면 인텔 로이히나 IBM 트루노스 같은 뉴로모픽 칩에 올려야 한다. 움직임이 있을 때만 신호를 내는 이벤트 카메라로 제스처를 인식하거나, 근전도·뇌파 같은 생체 신호를 감지하거나, 배터리로 도는 기기에서 센서 데이터를 바로 판단할 때 효과가 크다.

아직은 연구 단계에 가깝다

학습이 까다로워서 같은 작업이라면 일반 신경망보다 정확도를 맞추기 어려운 경우가 많고, 널리 쓰이는 단계에는 이르지 못했다. 데이터가 정지 이미지나 텍스트라면 일반 신경망이 낫고, 시간에 따라 흐르는 신호를 아주 적은 전력으로 처리해야 할 때 SNN을 검토하면 된다.

흐르는 신호를 기기 위에서 바로 판단할 때 쓴다

가장 흔한 쓰임은 이벤트 카메라나 생체 센서 신호를 기기 안에서 바로 처리하는 것이다. 아직 연구 단계라, 기존 모델을 SNN으로 바꿔 뉴로모픽 칩에서 전력과 정확도를 비교해 보는 실험도 많다.