KSW's BLOG
← Portfolio
Completed

순수 NumPy로 역전파 직접 구현

딥러닝 프레임워크 없이 NumPy만으로 선형회귀부터 신경망까지 역전파를 직접 구현한 프로젝트.

PythonNumPy

Problem

PyTorch 같은 프레임워크를 쓰면 역전파가 자동으로 계산돼 블랙박스가 된다. 경사하강법과 역전파의 수학적 원리를 직접 손으로 이해하고 싶었다.

Approach

선형회귀 → 로지스틱회귀 → 2층 MLP 순서로, forward/backward 수식을 직접 유도해 NumPy 코드로 구현했다. 핵심 수식은 뼈대+TODO 방식으로 직접 채워나갔다.

Result

자체 테스트 24/24 통과. XOR 100%, 유방암 진단(breast cancer) 95.6%, sklearn digits 97.5%, 실제 MNIST 95.75% 달성.

View on GitHub →