/m1-neural-network-diy

Projet Réseau de neurones - DIY

Primary LanguageJupyter Notebook

Projet Réseau de neurones - DIY

L’objectif de ce projet est d’implémenter un réseau de neurones. L’implémentation est inspirée des anciennes versions de pytorch (en Lua, avant l’autograd) et des implémentations analogues qui permettent d’avoir des réseaux génériques très modulaires.

Modules implémentés

  • Module linéaire
  • Modules d'activation : ReLU, ELU, LeakyReLU, TanH, Sigmoid, SoftMax
  • Modules de coûts : Mean Squarre Error, Binary Cross Entropy, Cross Entropy, Hinge Loss

Types de réseaux implémentés

  • Convolution 1D : convolution 1D et convolution 1D transposée
  • Pooling 1D : max pooling et average pooling 1D
  • Auto-encodeurs

Données de tests

  • USPS
  • MNIST
  • DIGITS
  • IRIS
  • etc.