뉴로모픽 컴퓨팅: 스파이킹 신경망 및 시냅스 가중치 학습 원리

## 핵심 원리 뉴로모픽 컴퓨팅은 인간 뇌의 구조와 기능에서 영감을 받아, 병렬적이고 에너지 효율적인 정보 처리를 목표로 합니다. 핵심은 스파이킹 신경망(Spiking Neural Network, SNN)으로, 이는 뉴런이 임계값 이상의 자극을 받았을 때만 스파이크(spike)라는 이산적인 사건(event)을 발생시켜 정보를 전달하는 방식입니다. 이러한 사건-구동(event-driven) 방식은 모든 뉴런이 매번 활성화되는 기존 인공신경망과 달리 불필요한 연산을 줄여 전력 효율을 극대화합니다. 각 뉴런은 멤브레인 전위($V_m$)를 가지며, 이 전위는 외부 시냅스 전류($I_{syn}$)의 유입과 멤브레인의 누설 전류에 의해 시간에 따라 변화합니다. 가장 기본적인 모델 중 하나인 누설 적분-발화(Leaky Integrate-and-Fire, LIF) 뉴런 모델은 다음과 같은 미분 방정식으로 표현됩니다: $$\tau_m \frac{dV_m}{dt} = -(V_m - E_L) + R_m I_{syn}$$ 여기서 $V_m$은 멤브레인 전위, $t$는 시간, $\tau_m = R_m C_m$은 멤브레인 시정수($R_m$은 멤브레인 저항, $C_m$은 멤브레인 용량), $E_L$은 누설 전위, $I_{syn}$은 시냅스 전류입니다. 뉴런의 $V_m$이 특정 발화 임계값($V_{th}$)에 도달하면 스파이크가 발생하고, $V_m$은 재설정 전위($V_{reset}$)로 초기화됩니다. 일반적인 시정수 $\tau_m$ 값은 수 밀리초에서 수십 밀리초 범위이며, 이 값은 뉴런이 과거 자극에 얼마나 오랫동안 반응하는지를 결정합니다. $V_{th}$는 보통 $E_L$보다 약 10-20mV 높은 값으로 설정됩니다. 정보는 뉴런 간의 연결 강도인 시냅스 가중치($w$)에 저장되며, 이 가중치는 학습을 통해 변화합니다. 뇌는 스파이크 타이밍 의존적 가소성(Spike-Timing-Dependent Plasticity, STDP)과 같은 국소적인 학습 규칙을 사용하여 시냅스 가중치를 조절합니다. STDP는 전-시냅스 뉴런의 스파이크와 후-시냅스 뉴런의 스파이크 간 시간차($\Delta t = t_{post} - t_{pre}$)에 따라 시냅스 가중치를 강화하거나 약화시킵니다. 일반적으로 $\Delta t > 0$ (전-시냅스 뉴런이 먼저 발화)일 때 가중치가 강화(장기 강화, Long-Term Potentiation, LTP)되고, $\Delta t < 0$ (후-시냅스 뉴런이 먼저 발화)일 때 약화(장기 억압, Long-Term Depression, LTD)됩니다. 이 가중치 변화는 다음과 같은 형태로 모델링될 수 있습니다: $$\Delta w = \begin{cases} A_{LTP} \cdot e^{\Delta t / \tau_{LTP}} & \text{if } \Delta t > 0 \\ A_{LTD} \cdot e^{\Delta t / \tau_{LTD}} & \text{if } \Delta t < 0 \end{cases}$$ 여기서 $A_{LTP}, A_{LTD}$는 학습률 상수이며, $\tau_{LTP}, \tau_{LTD}$는 시간 상수입니다. 전형적으로 $\tau_{LTP}$와 $\tau_{LTD}$는 수십 밀리초(예: 20-50ms) 범위에서 시냅스 가중치 변화가 유의미하게 발생합니다. 이러한 메커니즘을 통해 뉴로모픽 시스템은 경험에 따라 스스로 학습하고 적응할 수 있습니다. 직관적인 비유로, 뉴로모픽 컴퓨팅은 정보를 '귓속말'처럼 처리하는 시스템에 비유할 수 있습니다. 각 뉴런은 조용한 교실의 학생이며, 입력 스파이크는 다른 학생들의 '귓속말'입니다. 학생은 충분히 많은 귓속말을 듣고 집중하면(멤브레인 전위가 임계값을 넘으면) 스스로 중요한 정보를 '귓속말'로 전달합니다(스파이크 발생). 이 귓속말이 정확한 타이밍에 다른 학생에게 전달되면(STDP), 두 학생 간의 정보 교류 채널(시냅스 가중치)이 강화되어 다음부터는 더 효과적으로 정보를 주고받을 수 있습니다. 불필요한 귓속말은 무시되고, 필요한 귓속말만 선택적으로 처리되어 에너지를 아낍니다. reactflow {"direction":"LR","nodes":[{"id":"input_spike","label":"입력 스파이크"},{"id":"neuron_membrane","label":"뉴런 멤브레인 (Vm)"},{"id":"threshold","label":"임계값 (Vth)"},{"id":"output_spike","label":"출력 스파이크"},{"id":"synapse","label":"시냅스 가중치 (w)"},{"id":"stdp_rule","label":"STDP 학습 규칙"}],"edges":[{"source":"input_spike","target":"neuron_membrane","label":"전류 유입"},{"source":"neuron_membrane","target":"threshold","label":"Vm 축적"},{"source":"threshold","target":"output_spike","label":"발화"},{"source":"output_spike","target":"neuron_membrane","label":"Vm 재설정"},{"source":"output_spike","target":"stdp_rule","label":"후-스파이크 시간"},{"source":"input_spike","target":"stdp_rule","label":"전-스파이크 시간"},{"source":"stdp_rule","target":"synapse","label":"가중치 조정"},{"source":"synapse","target":"neuron_membrane","label":"연결 강도 반영"}]} ## 논문 심층 리뷰 ### Device-to-system level analysis for neuromorphic computing depending on weight update protocols — 박지훈 (2018) **핵심 원리**: 이 연구는 뉴로모픽 컴퓨팅 시스템에서 시