gal-dmitry/hse2021_dl_project

Jupyter Notebook

Deep Learning final project assignment

Team: 13

Theme 3: "Neural Arithmetic Logic Units"

References

Papers

GitHub repositories

Models

Experiments

ID	Description	Model	Layers	Arithmetic function	Link
1	Проверить, что значения обученных матриц W_hat, M_hat принадлежат {-1, 0, 1}				`Experiment_1.ipynb`
1.1		NAC (+, -)	1	x_1 + x_2
1.2		NAC (+, -)	1	x_1 - x_2
1.3		NAC (*, /)	1	x_1 * x_2
1.4		NAC (*, /)	1	x_1 / x_2

2	Проверить, что значения обученной матрицы G принадлежат {0, 1}				`Experiment_2.ipynb`
2.1		NALU	1	x_1 + x_2
2.2		NALU	1	x_1 * x_2

3	Сравнить качество различных моделей 4.1 Simple Function Learning Tasks				`Experiment_3.ipynb`
		NALU NAC (+, -) NAC (*, /)	2

Wandb repositories of experiments:

Report: