数学基础W12:向量与矩阵的微分

向量函数和矩阵函数

向量函数举例

$f(x)=w^Tx+b$;

矩阵函数

常见的矩阵函数:

• $f(A)=Tr(A)$;
• $f(A)=|A|$;
• $f(A)=x^TAx$
• $f(A)=rank(A)$

$\uparrow$n矩阵到R的函数

---

• $f(A)=A^{-1}$

这些常见的矩阵函数都可以作为建模时的优化目标.

数据科学中的向量和矩阵函数的应用

• 模型
• 损失函数
• 目标函数

机器学习的结构

$L(y,f_\theta(x))+\lambda h_\theta$

$f_\theta(x)$是模型,一般都是符合函数

衡量模型和真实值的距离,同时为了防止过拟合要额外添加一个正则画像.

多层感知机

激活->映射->激活->映射

矩阵函数作为模型

处理图像->图像变矩阵

处理图像的模型都是一个矩阵函数.

支持向量机模型.

线性映射无论如何复合都无法提升性能.

赏

谢谢你请我吃糖果❤️

支付宝