机器之心报道
编辑:佳琪
在学习数学时,我们常因所学知识的难度和抽象而受挫;但有些时候,只需换个角度,我们就能为问题的解答找到一个简单又直观的解法。举个例子,小时候在学习和的平方 (a+b)² 公式时,我们可能并不理解为什么它等于 a²+2ab+b²,只知道书上这么写,老师让这么记;直到某天我们看见了这张动图:
登时恍然大悟,原来我们可以从几何角度来理解它!
现在,这种恍然大悟之感又出现了:非负矩阵可以等价地转换成对应的有向图!
如下图所示,左侧的 3×3 矩阵其实可以等价地表示成右侧的包含三个节点的有向图,并且这种表示方式对矩阵和图论都大有帮助。
这个例子来自致力于让每个人都能看懂数学(make math accessible for everyone)的数学家 Tivadar Danka。这位自称「混乱善良(Chaotic good)」的数学家通过一系列推文和博客文章生动地介绍了矩阵和图的这种等价性及其用途。截至目前,这些推文已被阅读了超过 200 万次,收获了超过 3200 次转发和 9100 次收藏。
矩阵与有向图的对价性
如上图的例子所示,如果我们将其中每一行都视为一个节点,则每一个元素都可表示成一条有向且加权的边。当然,0 元素可以忽略不计。如果该元素位于第 i 行第 j 列,则对应于从节点 i 到节点 j 边。
乍一看,这似乎很复杂,但我们可以先看其中一个节点。
如图所示,对于这个 3×3 的矩阵,第 1 行对应于最顶部的节点(我们这里称之为 1 号节点),其包含 3 个元素但其中一个为 0,因此该节点延伸出了两条边。其中黄色边表示的是 (1,1) 处的元素 0.5,因此它是指向自身且权重为 0.5 的有向边。同理,蓝色边是指向 2 号节点且权重为 1 的边。
这样一来,我们便能分析出,矩阵的第 i 列便对应于指向 i 号节点的所有边。
这种等价表示有什么用?
非负矩阵与有向图之间的这种等价性既能帮助我们更好地理解矩阵及其运算,也能帮助简化一些计算过程;反过来,这也能帮助我们从新的视角理解图。
举个例子,矩阵的幂就对应于图中的游走。
如上图所示,对于 n×n 的方形矩阵 A 的 k 次幂,其中每个元素的求和过程都会纳入所有可能的 k 步游走。
举个例子,假设我们要计算上述 3×3 矩阵的平方。
如果使用矩阵乘法,则我们需要这样计算:
对于运算结果的第一个元素,我们可以得到结果 = 0.5×0.5+1×0.2+0×1.8 = 0.45。最终,我们可以得到完整的结果为:
但如果借助上述的图游走方法,则可以通过游走路径来得到结果。同样,对于结果矩阵的第一个元素,就需要对符合 a_{1,l}→a_{l,1} 的所有 2 步游走路径求和。
但是,如果这个有向图表示的是马尔科夫链的状态,其转移概率矩阵的平方本质上就表示该链 2 步之后达到某个状态的概率。
不仅如此,用图表示矩阵还能让我们深入了解非负矩阵的结构。为此,Danka 表示我们需要先了解「强连通分量(strongly connected components)」这一概念。
强连通分量
什么是强连通分量?对于一个有向图,如果能从该图中的每个节点到达其它每个节点时,我们就说该图是强连通的。如下图所示。
而强连通分量就是指有向图中能够实现强连通的部分 / 子图。如下图所示,左右各有一个强连通分量,而中间的白色边不属于任何强连通分量。
下图则展示了另一个例子,其中黄色部分是强连通分量:
对应于强连通图的矩阵是不可约矩阵,而非负矩阵中的所有其它矩阵都是可约矩阵。
Danka 通过一个例子给出了解释。(为了说明简单,例子中的所有权重均为单元权重,但实践中这些权重值可以是任意非负值。)
下面将这个包含强连通分量但本身并不强连通的图转写成对应的矩阵形式:
而这个矩阵是可约矩阵。
可以看到,在主对角线上的两个子矩阵分别表示两个强连通分量,而右上方的子矩阵表示从第 1 个强连通分量指向第 2 个强连通分量的边,左下方的则表示从第 2 个强连通分量指向第 1 个强连通分量的边(因为没有这样的边,所以全为 0)。
这种书写分块矩阵的形式被称为弗罗贝尼乌斯标准形(Frobenius normal form)。
那么,我们很自然就会问:我们能将任意非负矩阵都转换成弗罗贝尼乌斯标准形矩阵吗?
通过使用有向图来表示非负矩阵,我们可以轻松地看出答案是肯定的,因为任何表示非负矩阵的有向图都可以表示成互相连接的强连通分量。这个过程非常简单:
如此便大功告成了!
用图来得到弗罗贝尼乌斯标准形
那么,这个更好的方式是什么呢?
以上述的例子为基础,我们来看看这个过程。
首先,将各个强连通分量融合成单个对象,如下图所示。这时候我们可以将每个强连通分量视为一个黑箱 —— 我们不关心其内部结构,只看其外部连接。
然后,在这个新图中,我们需要找到只有出边而没有入边的分量。这个具体示例中只有一个,我们将其标记为 0 号:
接下来一步较为麻烦:对每个分量进行编号,使得每个分量的编号都是离 0 号最远的距离。如下示例能更清晰地说明这一点:
可以看到,0 号到中间的分量有两条路径,那么选择离 0 最远的那条路径对其进行编号。最终得到:
实际上,这定义的是分量的顺序。接下来标记各个分量的内部节点:
如果该图本身来自一个矩阵,则这样的重新标注过程就能得到一个弗罗贝尼乌斯标准形矩阵!
实际上,这个重新标注的过程就是使用一个置换矩阵 P 对原矩阵执行变换,而该置换矩阵由多个转置矩阵的积构成。
以下为该定理的完整形式:
当然,用图表示矩阵的用途远不止于此,比如我们还可以使用矩阵的特征值来定义图的特征值。事实上,这一思路催生了谱图理论(spectral graph theory)这一研究领域。
结语
很显然,矩阵和图之间的这种等价关系既有助于图论研究,也能为线性代数的计算和分析提供一个新视角。其也有一些重要的实际用途,比如 DNA 数据就常被表示成矩阵或图的形式。
另外,我们都知道矩阵运算对于当前的大模型 AI 的重要性,而以知识图谱为代表的图也正通过检索增强式搜索等技术成为当前 AI 的重要助力。将这两者关联起来,或许能在 AI 可解释性以及图人工智能方面带来一些新的突破。至少,这能帮助我们更好地学习线性代数。
实际上,上述内容正是提炼自 Tivadar Danka 正在编写的《Mathematics of Machine Learning》一书。这本书将由浅入深地介绍与机器学习相关的数学知识,让读者真正知其然也知其所以然,并且 Danka 自信地宣称这会是「学习机器学习的最佳资源」。目前他已经在网上发布了两章预览,感兴趣的读者可访问:https://tivadardanka.com/mathematics-of-machine-learning-preview/
线性代数?
1. 线性代数知识图谱线性代数是代数学的一个分支,主要处理线性关系问题。 线性关系意即数学对象之间的关系是以一次形式来表达的。 例如,在解析几何里,平面上直线的方程是二元一次方程;空间平面的方程是三元一次方程,而空间直线视为两个平面相交,由两个三元一次方程所组成的方程组来表示。 含有 n个未知量的一次方程称为线性方程。 变于关量是一次的函数称为线性函数。 线性关系问题简称线性问题。 解线性方程组的问题是最简单的线性问题。 线性(linear)指量与量之间按比例、成直线的关系,在数学上可以理解为一阶导数为常数的函数非线性(non-linear)则指不按比例、不成直线的关系,一阶导数不为常数。 行列式非零矩阵可逆方阵满秩向量组满秩(向量个数等于维数)。 2. 行列式2.1 定义矩阵的行列式,determinate(简称det),是基于矩阵所包含的行列数据计算得到的一个标量。 是为求解线性方程组而引入的。 2.2 二阶行列式计算方式:对角线法则2.3 三阶行列式计算方式:对角线法则2.4 n阶行列式2.4.1 计算排列的逆序数2.4.2 计算n阶行列式2.4.3 简化计算总结2.4.4 行列式的3种表示方法2.5 行列式的性质性质1 行列式与它的转置行列式相等注:行列式中行与列具有同等的地位,行列式的性质凡是对行成立的对列也同样成立.性质2 互换行列式的两行(列),行列式变号推论 如果行列式有两行(列)完全相同,则此行列式为零性质3 行列式的某一行(列)中所有的元素都乘以同一个倍数k,等于用数k乘以此行列式.推论 行列式的某一行(列)中所有元素的公因子可以提到行列式符号的外面.性质4 行列式中如果有两行(列)元素成比例,则此行列式为零.性质5 若行列式的某一列(行)的元素都是两数之和,则等于对应的两个行列式之和.性质6 把行列式的某一列(行)的各元素乘以同一个倍数然后加到另一列(行)对应的元素上去,行列式不变.2.6 计算行列式的方法1)利用定义2)利用性质把行列式化为上三角形行列式,从而算得行列式的值定理中包含着三个结论:1)方程组有解;(解的存在性)2)解是唯一的;(解的唯一性)3)解可以由公式(2)给出.定理4 如果线性方程组(1)的系数行列式不等于零,则该线性方程组一定有解,而且解是唯一的 .定理4′ 如果线性方程组无解或有两个不同的解,则它的系数行列式必为零.齐次线性方程组的相关定理定理5 如果齐次线性方程组的系数行列式D不等于0,则齐次线性方程组只有零解,没有非零解.定理5′ 如果齐次线性方程组有非零解,则它的系数行列式必为零.1. 用克拉默法则解线性方程组的两个条件1) 方程个数等于未知量个数;2) 系数行列式不等于零.2. 克拉默法则的意义主要在于建立了线性方程组的解和已知的系数以及常数项之间的关系.它主要适用于理论推导.2.8 行列式按行(列)展开对角线法则只适用于二阶与三阶行列式.本节主要考虑如何用低阶行列式来表示高阶行列式.3. 矩阵3.1 矩阵的定义3.1.1 矩阵与行列式的区别3.2 特殊矩阵3.3 矩阵与线性变换3.4 矩阵的运算3.4.1 矩阵的加法行列式与矩阵加法的比较:3.4.2 数乘矩阵3.4.3 矩阵与矩阵相乘3.4.4 矩阵的转置反对称矩阵(skew symmetric matrix)3.4.5 方阵的行列式3.4.6 伴随矩阵3.4.7 共轭矩阵3.5 可逆矩阵(或称非奇异矩阵)3.6 矩阵分块法分块矩阵不仅形式上进行转置,而且每一个子块也进行转置.4. 矩阵的初等变换与线性方程组4.1 矩阵的初等变换4.2 矩阵之间的等价关系4.3 初等变换与矩阵乘法的关系4.4 矩阵的秩4.5 线性方程组的多解5. 向量组的线性相关性5.1 向量组及其线性组合5.2 向量组的线性相关性5.3 向量组的秩结论:矩阵的最高阶非零子式一般不是唯一的,但矩阵的秩是唯一的.5.4 线性方程组的解的结构问题:什么是线性方程组的解的结构?答:所谓线性方程组的解的结构,就是当线性方程组有无限多个解时,解与解之间的相互关系.备注:1)当方程组存在唯一解时,无须讨论解的结构.2)下面的讨论都是假设线性方程组有解.5.5 向量空间5.5.1 封闭的概念定义:所谓封闭,是指集合中任意两个元素作某一运算得到的结果仍属于该集合.5.5.2 向量空间的概念定义:设 V 是 n 维向量的集合,如果① 集合 V 非空,② 集合 V 对于向量的加法和乘数两种运算封闭,具体地说,就是:若 a ∈ V, b ∈ V,则a + b ∈ V .(对加法封闭)若 a ∈ V, l ∈ R,则 l a ∈ V .(对乘数封闭)那么就称集合 V 为向量空间.5.5.3 子空间的概念定义:如果向量空间 V 的非空子集合 V1 对于 V 中所定义的加法及乘数两种运算是封闭的,则称 V1 是 V 的子空间.5.5.4 向量空间的基的概念6. 相似矩阵及二次型6.1 向量的内积、长度及正交性6.1.1 向量的内积6.1.2 向量的长度或范数单位向量:长度为1的向量。 6.1.3 向量的正交性向量正交:向量内积为0。 6.1.4 正交矩阵或正交阵6.1.5 正交矩阵的性质6.2 方阵的特征值与特征向量6.2.1 正定矩阵/半正定矩阵1)矩阵半正定当且仅当它的每个特征值大于等于零(>=0)。 2)矩阵正定当且仅当它的每个特征值都大于零(>0)。 6.3 相似矩阵6.4 对称矩阵的对角化6.5 二次型及其它标准型还不知道如何报名美赛的小伙伴看过来!模小数致力于为国内学生报名国际赛事为同学们省去大部分繁琐流程的同时还附赠赛题讲解现针对美赛特推出美赛辅助报名!(MCM/ICM)2022年美国数学建模竞赛报名开始辅助报名优势通过辅助报名过程简单,直接在线报名组队,使用微信/支付宝即可缴费,无须VISA等国外银行卡,很大程度地方便了学生的报名报名通道简单安全,报名后在我的消息中收到美赛队号的通知额外赠送大量资料、视频、课程、软件以及赛题翻译等服务(报名后无需等待立即开始学习、而且报名同学同享)历年成绩至今已成功为2万多支队伍,近6万名学生完成了美赛辅助报名!2021年通过模小数完成报名的队伍中获得Outsanding Winner奖的队伍有2支其中一支获得了Frank Giordano Award!有50余支队伍获得F奖近200支队伍获得M奖以及500多支队伍获得H奖!F奖竞赛官方整体比例为1%,通过我们辅助报名的参赛同学获奖比例高达1.73%,整整超出0.73%,H奖超出官方整体比例0.43%!辅助报名费用集体报名集体报名780元/队(含证书),集体报名需10队以上,集体报名表见下面附件。 报名表格和交费截图发送至美赛辅助报名邮箱说明:美赛证书每人一份,证书上队员名字排名不分先后,各参赛队员具有同等的贡献率。 报名福利凡是报名参加“美赛辅助报名以及证书打印邮寄活动”的同学,均可享受以下服务1.数学建模资料大礼包(历年美赛特等奖论文、UMAP等资料,Matlab、SPSS等软件包)2.免费获得价值500元的美赛专属课程一门,3人同享(共30学时,包含:数学建模入门、数学实验、初等数学模型、优化数学模型、排队论模型、数学处理模型、智能优化算法、赛题解析、学术论文的写作与投稿九大方面的内容)3.免费获得2020-2021年美国大学生数学建模竞赛真题的视频讲解。 课程报名后直接开通资料凭借报名成功截图添加刘老师领取资料!联系方式辅助报名负责人美赛辅助报名接待群客服微信号:报名链接:联系方式1、在线WEB支付在进行报名2、集体报名交费集体报名交费时备注:学校+队数+报名+证书,若只报名,备注为:学校+队数+报名,交费后,把集体报名表和交费截图一起发到美赛辅助报名邮箱,需要开发票的请联系工作人员。 服务截止时间是2022年02月17日,请需要的同学务必在这之前联系美国数模辅助报名工作人员,过期不候!报名的同学请加QQ群,仅限准备报名的同学,和群里辅助报名工作人员联系。 如有对服务内容不明的同学可以咨询,该项服务的最终解释权美赛辅助报名所有。 注意:竞赛报名截止前可以修改队伍信息,如需修改信息可直接在美赛官网修改或联系辅助报名工作人员()修改。 P.S:对于2022年美赛,还为大家开通了另外两个千人群,主要为全国建模爱好者提供交流学习的平台,请加群(2022美赛备战群) ,备注:MCM!我们期待你的加入!校苑数模第一时间更新成绩发布名单及赛题整理别错过满分的数学头部公众号戳我戳我温馨提示:微信公众号信息流改版,每个用户可以设置常读订阅号,这些订阅号将以大卡片的形式展示。 因此,如果不想错过“校苑数模”的文章,第一时间获得国赛资讯、答案查询、你一定要进行以下操作:进入“校苑数模”公众号 → 点击右上角的 ··· 菜单 → 选择「设为星标」
离散数学 关系图 求R的N次幂
假设,N阶矩阵A和N阶矩阵B的乘积矩阵为C,即记作:C=A*B;其运算过程如下:
令A矩阵的第i行记作:ai,B矩阵第j列记作:bj,C矩阵第i行j列记作:cij
则cij=(ai1*b1j)+(ai2*b2j)+……+(ain*bnj);
(其中,ai1表示矩阵A的第i行第1列的元素的值,以此类推);
因此,那个M^2的矩阵第一行第一列的元素值为:
0*0+1*1+0*0+0*0=1,以此类推就得到那个结果了。
扩展资料:
离散数学也可以说是计算机科学的基础核心学科,在离散数学中的有一个著名的典型例子-四色定理又称四色猜想,这是世界近代三大数学难题之一;
它是在1852年,由英国的一名绘图员弗南西斯·格思里提出的,他在进行地图着色时,发现了一个现象,“每幅地图都可以仅用四种颜色着色,并且共同边界的国家都可以被着上不同的颜色”。
那么这能否从数学上进行证明呢?100多年后的1976年,肯尼斯·阿佩尔(Kenneth Appel)和沃尔夫冈·哈肯(Wolfgang Haken)使用计算机辅助计算,用了1200个小时和100亿次的判断,终于证明了四色定理,轰动世界,这就是离散数学与计算机科学相互协作的结果。
从3月20号开始复习考研?
看看我们分享的资料以及过来人的经验吧
为大家整理了一份考研学习资料,包括各大机构的语文,数学,英语以及各大专业课的学习资源,适合想自考的学生,后面会不断汇聚更多优秀学习资源,供大家交流分享学习,需要的可以先收藏转存,有时间慢慢看~
考研资料实时更新
链接:考研资料实时更新