1. 서론: 시냅스 가소성의 수학적 승화

1949년 도널드 헵(Donald Hebb)이 제안한 Hebbian Learning은 현대 신경과학과 인공지능의 가교입니다. 핵심 원리는 간결합니다. "함께 발화하는 뉴런은 서로 연결된다."

이것은 AI가 정답(Label) 없이도 데이터 간의 상관관계를 스스로 학습하는 비지도 학습(Unsupervised Learning)의 모태가 되었습니다. 특히 최근에는 GPU 전력 소모를 줄이기 위한 뉴로모픽 칩(Neuromorphic Chip)의 핵심 학습 알고리즘으로 다시금 주목받고 있습니다.

2. 알고리즘: 단순 규칙에서 Oja's Rule까지

3. 구현: Python (NumPy) 코드

Oja's Rule을 적용하여 발산하지 않는 Hebbian Update를 구현한 예제입니다.

import numpy as np

def hebbian_update(weights, x, lr=0.01):
    """
    weights: 시냅스 가중치 행렬 (N x M)
    x: 입력 벡터 (M,)
    """
    # 1. Feed Forward (선형 출력 계산)
    y = np.dot(weights, x)
    
    # 2. Oja's Rule (가중치 발산 방지)
    # Δw = η * y * (x - y * w)
    y_expanded = y[:, np.newaxis]  # Shape 맞추기
    delta_w = lr * y_expanded * (x - np.dot(y_expanded, weights))
    
    return weights + delta_w

4. 2026 전망: 역전파(Backprop)의 대안?

현재 딥러닝의 표준인 역전파(Backpropagation)는 성능은 뛰어나지만, 전체 네트워크의 에러를 계산해야 하므로 메모리와 연산 비용이 막대합니다.

• Local Learning: 헵 학습은 각 뉴런이 자신의 입출력만 보고 가중치를 업데이트합니다. 이는 병렬 처리에 극도로 유리합니다.
• Explainable AI (XAI): 어떤 입력 패턴이 어떤 뉴런을 활성화했는지 추적하기 쉬워, 모델의 투명성을 높이는 데 기여합니다.