KSW's BLOG
← Portfolio
Completed

순수 NumPy로 역전파 직접 구현

딥러닝 프레임워크 없이 NumPy만으로 선형회귀부터 신경망까지 역전파를 직접 구현한 프로젝트.

PythonNumPy

Problem

  • ·PyTorch 등 프레임워크 사용 시 역전파가 자동 계산되어 블랙박스화
  • ·경사하강법·역전파의 수학적 원리를 직접 손으로 이해하고 싶었음

Approach

  • ·선형회귀 → 로지스틱회귀 → 2층 MLP 순서로 단계적 구현
  • ·forward/backward 수식을 직접 유도해 NumPy 코드로 구현
  • ·핵심 수식은 뼈대+TODO 방식으로 직접 채움

Result

  • ·자체 테스트 24/24 통과
  • ·XOR 100%
  • ·유방암 진단(breast cancer) 95.6%
  • ·sklearn digits 97.5%
  • ·실제 MNIST 95.75% 달성
View on GitHub →