数学基础W12:向量与矩阵的微分

阅读数: 次 2020-05-24

数学基础W12:向量与矩阵的微分

向量函数和矩阵函数

向量函数举例

$f(x)=w^Tx+b$;

矩阵函数

常见的矩阵函数:

$f(A)=Tr(A)$;
$f(A)=|A|$;
$f(A)=x^TAx$
$f(A)=rank(A)$

$\uparrow$n矩阵到R的函数

$f(A)=A^{-1}$

这些常见的矩阵函数都可以作为建模时的优化目标.

数据科学中的向量和矩阵函数的应用

模型
损失函数
目标函数

机器学习的结构

$L(y,f_\theta(x))+\lambda h_\theta$

$f_\theta(x)$是模型,一般都是符合函数

衡量模型和真实值的距离,同时为了防止过拟合要额外添加一个正则画像.

多层感知机

激活->映射->激活->映射

矩阵函数作为模型

处理图像->图像变矩阵

处理图像的模型都是一个矩阵函数.

支持向量机模型.

线性映射无论如何复合都无法提升性能.

jsonContent: meta: false pages: false posts: title: true date: true path: true text: false raw: false content: false slug: false updated: false comments: false link: false permalink: false excerpt: false categories: false tags: true