/Math_for_ML

机器学习数学基础知识

机器学习数学基础知识

数学一般,但是喜欢!

读书的时候,我的数学算是中等水平吧,喜欢证明但不擅长计算,喜欢探索公式背后的几何意义但不擅长演算中的奇技淫巧。和大多数人一样,看到复杂的数学公式还是会感到畏惧和头疼,内心热爱数学但又常常被数学劝退。随着知识的积累和年岁的增长,我们开始或多或少的意识到,数学不仅仅是冰冷的数字和公式,它也是打开更广阔世界大门的那把钥匙。在自然科学的诸多领域,数学好几乎意味着上限很高,尤其是人工智能领域的爱好者和探索者,数学不仅能帮助我们更好的理解和使用算法,还能帮助我们站在更高的视角洞察问题的本质。所以,即便我的数学很一般,但是仍然希望通过自己的一些心得体会,和大家一起突破数学的壁垒,去探索更广阔的技术世界。

  1. 线性代数
    • 向量与矩阵
    • 矩阵分解
    • 线性变换
    • 重要性质
  2. 微积分
    • 函数和极限
    • 导数和偏导数
    • 泰勒公式
  3. 概率论与统计学
    • 随机和概率
    • 随机变量及其分布
    • 假设检验
    • 参数估计
    • 相关与回归
  4. 优化理论
    • 凸优化
    • 梯度下降法
    • 正则化方法
    • 约束优化
  5. 信息论
    • 信息熵
    • 条件熵和信息增益
    • KL散度
    • 互信息