08:05 ? **梯度下降法(Gradient Descendent)**是机器学习的核心算法之一**自动微分**则是梯度下降法的核心; 梯度下降法用于求损失函数的最优值,前面的文章中我们说过**梯度下降**是通过计算参数與损失函数的梯度并在梯度的方向不断迭代求得极值;但是在机器学习、深度学习中很多求导往往...
08:59 ? 1. 多元函数 1.1 欧几里得空间 很多函数的自變量不止一个现在就来讨论这种函数的性质,多元函数可以记作\(f(x_1,\cdots,x_n)\)如果只是独立地讨论函数与每个变量的关系,大可不必给出新的概念我们需要把所有自变量当成一个“数”看待,并研究这种函数的分析...
16:35 ? 1. 微分的概念 1.1 一阶微分 导数表现出两个小变量\(\varDelta y,\varDelta x\)之间近似的线性关系(式(1))这个关系启发了我们,可以为“无穷小量”建立一个度量模型但这里说的“无穷小量”并不是一个孤立的量,它具有一种...
22:26 ? 微分在数学中的定义:由函数B=f(A)得到A、B两个数集,在A中当dx靠近自己时函数在dx处的极限叫作函数在dx处的微分,微分的中心思想是无穷分割积分是微积分学与数学分析里的一个核心概念。通常分为定积分和不定积分两种直观地说,对于一个给定的正实值函数在一个实數区间上的定积分可以理解为在坐...