Дифференцирование
Производная функции от одной переменной
Производная функции - это величина изменения функции в данной точке. f(x) показывает изменение f при бесконечно малом x.
Дана некая функция f: U → R определённая на открытом интервале U ⊂ R. Дана точка a ∈ U. Производная функции f в точке a равна пределу:
$$f'(a)=\lim_{h \to 0} \left(f(a+h)-f(a)\over h\right)$$
Производная по направлению
Такая производная показывает приращение функции вдоль заданного направления.
Дано множество U ⊂ R2 и функция f : U → R. Дана некая точка (a,b)∈U и единичный вектор u = (c,d)∈R2. Производная функции f по направлению вектора u в точке (a,b) равна:
$$\vec{u} = cos\theta\vec{i} + sin\theta\vec{j} $$
$$D_u f(a,b) = \lim_{h \to 0} \left( f(a + h \cdot cos\theta, b + h \cdot sin\theta) - f(a,b) \over h \right) $$
Частные производные
Для открытого интервала U ⊂ R2 и функции f: U → R частная производная по x - это производная по направлению вектора (1,0), т.е.:
$$ \frac{df}{dx} (a, b) = \lim_{h \to 0} \frac{f(a+h,b) - f(a,b)}{h} $$
Аналогично, производная по y - это производная по направлению (0,1):
$$ \frac{df}{dy}(a,b)=\lim_{h \to 0}\frac{f(a,b+h)-f(a,b)}{h} $$
В общем случае, для n-мерного пространства, частной производной по отношению к i-й переменной, df/dxi, является предел:
$$ \frac{df}{dx_i}=\lim_{h\to0}\frac{f(x_1,x_2,...,x_i+h,...,x_n)-f(x_1,...,x_n)}{h} = \lim_{h\to0}\frac{f(x+he_i)-f(x)}{h} $$ где 1≤i≤n и вектор e1 - вектор стандартного базиса: ei=(0,...,1,...,0) с единицой на позиции i.
Касательная плоскость к поверхности
Пусть дана функция f: U ⊂ R2 → R и точка (a,b) ∈ U. Если существует касательная плоскость в точке (a,b,f(a,b)), то она определена уравнением:
$$ z = P_{(a,b)}f(x,y)=f(a,b)+\frac{df}{dx}|_{(a,b)}(x-a)+\frac{df}{dy}|_{(a,b)}(y-b) $$
Пусть дана функция f: U ⊂ R2 → R, дифференциалом функции в точке (a,b) будет являться выражение:
$$ D_{(a,b})f(x,y) = \frac{df}{dx}|_{(a,b)}(x-a) + \frac{df}{dy}|_{(a,b)}(y-b)$$
Дифференцируемость функции
Функция f(x,y) дифференцируема в (a,b) если существуют частные производные и следующий предел:
$$ \lim_{(x,y)\to(0,0)}\frac{f(x,y)-(f(a,b)+D_{(a,b)}f(x,y))}{||(x,y)-(a,b)||} = 0 $$
Градиент функции
Градиент-вектор функции f:U⊂Rn→R в точке a:
$$ \nabla f(a) = (\frac{df}{dx_1}(a), ..., \frac{df}{dx_n}(a))$$
Теорема. Если функция f:U⊂Rn→R дифференцируема, то существуют частные производные в любом направлении и определяются как Dvf(a)=∇f(a)⋅v
Частные производные старшего порядка смешанные производные
Дана дифференцируемая функция f:U⊂Rn→R, df/dxi: U ⊂ Rn→R, производная второго порядка определяется так: d/dxj(df/dxi)(xi, ..., xn) = d2f/dxjdxi(xi, ..., xn). Таким же образом образуются частные производные старшего порядка.
Если функция f дифференцируема до степени n и все частные производные до степени n непрерывны, то функция f принадлежит классу n: f∈Cn
Теорема Шварца: смешанные частные производные одной и той же функции, отличающиеся лишь очерёдностью дифференцирования, равны между собой при условии их непрерывности.
Матрица Якоби
Пусть дана векторная функция f: U ⊂ Rn → Rm, f=(f1,...,fm) и существуют частные производные f1,...,fm в точке a∈U, матрица Якоби для f в точке a будет определена так:
$$ J_{f}(a) = \left[ {\begin{array}{ccc} \frac{df_1}{dx_1}(a) & ... & \frac{df_1}{dx_n}(a) \\ ... & ... & ... \\ \frac{df_n}{dx_1}(a) & ... & \frac{df_n}{dx_n}(a) \\ \end{array} } \right] $$
Функция f дифференцируема в точке a, если существует матрица Якоби в точке а и предел:
$$ \lim_{x\to a}\frac{||f(x)-f(a)-J_{f}(a)(x-a)||}{||x-a||} = 0 $$