矩阵的迹的性质 查看优质解析

2024-12-2420:13:50综合资讯0

机器学习的钻研之旅常伴随着线性代数。初探之下,矩阵和向量理解起来尚算容易,但一旦遇到张量这个概念,便会有种进入迷雾之中的感觉。

张量的乘法涉及到的脚标繁多,常令人感到困惑。然而在NumPy、TensorFlow等工具中,张量却是一种不可或缺的变量类型。如何解开它的神秘面纱呢?

来自纽约市立大学的姐Tai-Danae,以手绘的方式为人们揭示了张量乘法的直观理解方法,她的博客文章在初学者中反响热烈。

随后,又有一位来自印度理工学院的小哥,利用3blue1brown的数学动画工具manim,将张量乘法制作成动画,以通俗易懂的方式展示了张量乘法的运算过程。

接下来,让我们一同探索他们是如何图解张量运算的吧。

在深入探讨张量运算之前,先来了解一下爱因斯坦求和约定。

爱因斯坦求和约定是由爱因斯坦在研究相对论时提出的。由于相对论中经常涉及到张量乘积运算,爱因斯坦发明了一种简化写法,这种方法后来被广泛采用。

例如两个矩阵相乘时,其定义如下:

仔细观察后你会发现,当矩阵A的第二个脚标与矩阵B的第一个脚标相它们都是k。这意味着A的第k行与B的第k列相对应的元素相乘后相加,最后的结果中k消失了。

所以按照爱因斯坦的规定,遇到脚标相同的情况时,即表示对那个脚标进行求和操作,求和符号可以省略。

张量运算的公式得到了极大的简化。

Rajat发现,如果把矩阵的两个维度想象成两个“触角”,那么将相同脚标的“触角”连接起来就是矩阵乘法。

实际上,在Rajat之前就已经有人引入了“张量网络”的概念。它用一个节点和几条伸出去的线来表示张量。

线的条数等于张量的阶数。例如矩阵是二阶张量,所以有两条线相连:

(这里附上Tai-Danae的手绘图)

在矩阵乘法的情境中,相同的脚标就如同两条相连的线。两个矩阵M和N通过这种方式连接起来:

经过乘法运算后得到的张量只剩下两个向外的边。这时可以将中间的节点压缩成一个节点:

因此矩阵乘以矩阵的结果仍然是一个二阶张量。

Rajat在“张量网络”的基础上加入了一系列视频元素,以更生动的方式展示了多种常见的张量运算。

以图解方式呈现如下: