AbuBakkar32/DL-Sneak-Peek

Deep learning Bangla resources with TensorFlow

Deep learning sneak peek

I try to explain various important terms of deep learning and machine learning. I will write this sort of tutorial for helping myself to build a clear understanding. If anyone get helped reading this It would be grateful for me

Deep learning (Basics)

Part	Topic	Git	Colab
01	টেন্সরফ্লোর প্রথমিক ধারনা, টেন্সর, কিছু ম্যাথ অপারেশন	link	x
02	গ্রাডিয়েন্ট-টেপ, হাইয়ার অডার ডেরিভেটিভ , গ্রাডিয়েন্ট-টেপের কিছু বিশেষ ব্যবহার	link	x
03	লিনিয়ার রিগ্রেসন, প্লট লার্নিং কার্ভ	link	x
04	সফটম্যাক্স ফাংশন কি এবং কেন কাজ করে	link	x
05	মেশিন লার্নিংয়ে টাইপ - ১ ও টাইপ - ২ এরর কি ?	link	x

Deep learning (Computer vision)

Part	Topic	Git	Colab
01	ইমেজ ডাটা লোডিং, ফ্লাওয়ার ডাটাসেট, প্লট ইমেজ	link	colab
02	ইমেজ ডাটা পাইপলাইন, Keras ImageDataGenerator, ওয়ান-হট এনকোডিং	link	colab
03	ইমেজ ডাটা পাইপলাইন, tf.data , map ফাংশনের ব্যাবহার	link	colab
04	tf.data ও ImageDataGenerator এর মধ্যে তুলনা, ট্রেনিং টাইম স্পীড আপ করা, ডাটা ক্যাশিং	link	colab
05	ইমেজ ডাটা পাইপলাইন tf.keras.utils.Sequence	link	colab
07	ফ্লাওয়ার ইমেজ ক্লাসিফিকেশন, সাবক্লাস মডেল, tf.keras.utils.Sequence	link	colab
08	কাস্টম লেয়ার কি ? কিভাবে কাস্টম লেয়ার ডিজাইন করতে হয়	link	X

Audio

Part	Topic	Git	Colab
01	অডিও ফাইল রিড, ফিচার(FT, STFT, Spectrogram, MFCC) ভিজুয়ালাইজ	link	colab
02	স্পিচ টু টেক্সট সিস্টেম ডিজাইন এ কেন আমরা স্পেক্টোগ্রাম ব্যবহার করি?	link	-

Deep learning (NLP)

Part	Topic	Git	Colab
01	টোকেনাইজার কি এবং এটার বিভিন্ন প্রয়োগ	link	colab
02	টোকেনাইজার এর আরও কিছু ব্যবহার	lin k	colab

ML Ops

SL	Topic	Link
01	Rule of Machine Learning	link
02	MLOPS 101: Tips, Tricks and Best Practices- Vladimir Osin PyData Eindhoven 2021	link
03	Hands on MLOps using CML tool	link
04	ML development process	link

ML data visualization

• https://github.com/PAIR-code/facets
• Tensorboard guide for tensorflow 1.x

CNN

• Machine Learning Foundations by google developer playlist
• Implement various CNN youtube playlist by MIT
• CNN Architectures - implementations | MLT

RNN

• A friendly introduction to Recurrent Neural Networks
• The Attention Mechanism
• attention-mechanism

Transformers

• The Illustrated Transformer

The loss functions

• Transducer
• Connectionist Temporal Classification (CTC)

NLP

• Building models with tf.text (TF World '19)
• Natural Language Processing (NLP) Zero to Hero - Play list

Datasets

• Google dataset search
• The Big Bad NLP Database

Courses

• Intro to tensorflow for deeplearning (Udacity)
• Full stack deeplearning
• Software engineering with ML (udacity)
• Machine Learning Crash Course by Google
• TensorFlow, Keras and deep learning, without a PhD
• Deep learing by stanford - CS230
• MIT deep learning lecture
• Intro to deep learning kaggle mini course
• Kaggle free data science course

Bangla ML/DL resource:

• হাতেকলমে পাইথন ডিপ লার্নিং
• সহজ বাংলায় 'বাংলা' ন্যাচারাল ল্যাঙ্গুয়েজ প্রসেসিং (এনএলপি)
• বাংলায় মেশিন লার্নিং
• ডিপ লার্নিং ও আর্টিফিশিয়াল নিউরাল নেটওয়ার্ক
• বাংলায় ব্যাসিক ডাটা সায়েন্স শেখার কোর্স

Hyper params tunes

• Effect of batch size on training dynamics
• Determining optimal batch size
• Hyperparameter Importance | PyTorch Developer Day 2020

Machine learning in production

• Rules of ML by google
• 5 Steps to take your model in production
• Building the Software 2 0 Stack (Andrej Karpathy)
• A Recipe for Training Neural Networks (Andrej Karpathy)
• Engineering Practices for Software 2.0 (PyTorch Developer Conference)
• Machine Learning Interviews: Lessons from Both Sides - FSDL
• Troubleshooting Deep Neural Networks

---

• Machine Learning System Design (Chip Huyen)
• Machine Learning Systems Design (Chip Huyen) CS 329S
• ML Interview book (chip Huyen)
• Real Time Machine Learning Challenges and Solution (Chip Huyen)
• Data Distributio Shifts and monittorig (Chip Huyen)

Miscellaneous

• data-science-with-dl-nlp-advanced-techniques
• 37-reasons-why-your-neural-network-is-not-working
• https://cs231n.github.io/
• tf-keras-rnn-ctc-example
• Keras debugging tips
• TF2 mixed presition training speed up
• Effect of activation fucntion
• tf2 object detection api
• Eat tensorlfow in 30 days
• Tensorflow examples
• TensorFlow Fall 2020 updates: Keynote & what’s new since TF2.2
• Explainable Ai
• The NLP Index
• Machine Learning Glossary
• Beam search, How it works
• Nvidia tao toolkit for developerhttps://developer.nvidia.com/tao-toolkit

---

Books

• Deep Learning with Python (Chollet) 2nd Edition
• Transfer Learning for NLP (Paul Azunre)
• Speech and Language Processing by Daniel Jurafsky
• Foundations of Statistical Natural Language Processing
• Dive into deep learning
• Natural Language Processing with Transformers
• Designing Machine Learning Systems