XiaoMi-AI文件搜索系统
World File Search System外积
PHYS 4P51：量子力学 2022 年秋季讲义
3.2.2 对偶向量、内积、范数和希尔伯特空间 ..................................................................................23 3.2.3 正交基 ..................................................................................................................................25 3.2.4 矩阵和伴随矩阵 ..................................................................................................................27 3.2.5 外积 ..................................................................................................................................27 3.2.5 外积 ..................................................................................................................................27 29 3.2.6 完备性关系 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 3.2.10 矩阵内的内积. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... 42 3.2.17 柯西-施瓦茨不等式..................................................................................................................................................44 3.3 概率论..................................................................................................................................................................................45 3.3.1 随机变量和概率分布..................................................................................................................................................45 3.3.2 条件概率..................................................................................................................................................................................45 3.3.2 条件概率..................................................................................................................................................................................45 . ...
量子计算本科课程
3 量子力学简介 17 3.1 量子态作为复矢量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .................................................................................................................................................................20 3.4 计算基与基变换....................................................................................................................................................22 3.5 外积表示法....................................................................................................................................................................24 3.6 运算符号的功能....................................................................................................................................................25 . ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 32
预测和消除加速稀疏训练中的冗余计算
深度神经网络 (DNN) 是图像、语音和文本处理的最新技术。为了解决训练时间长和能耗高的问题，自定义加速器可以利用稀疏性，即零值权重、激活和梯度。提出的稀疏卷积神经网络 (CNN) 加速器支持使用不超过一个动态稀疏卷积输入进行训练。在现有的加速器类别中，唯一支持双面动态稀疏性的是基于外积的加速器。然而，当将卷积映射到外积时，会发生与任何有效输出都不对应的乘法。这些冗余笛卡尔积 (RCP) 降低了能源效率和性能。我们观察到在稀疏训练中，高达 90% 的计算都是 RCP，它们是由 CNN 训练后向传递期间大矩阵的卷积产生的，用于更新权重。在本文中，我们设计了一种机制 ANT 来预测和消除 RCP，与外积加速器结合使用时可以实现更高效的稀疏训练。通过预测超过 90% 的 RCP，在使用 DenseNet- 121 [ 38 ]、ResNet18 [ 35 ]、VGG16 [ 73 ]、Wide ResNet (WRN) [ 85 ] 和 ResNet-50 [ 35 ] 的 90% 稀疏训练中，ANT 比类 SCNN 加速器 [67] 实现了 3.71 倍的几何平均速度提升，能耗降低了 4.40 倍，面积增加了 0.0017 平方毫米。我们将 ANT 扩展到稀疏矩阵乘法，以便同一个加速器可以预测稀疏全连接层、Transformer 和 RNN 中的 RCP。
利用新兴存储设备进行内存计算
内存计算 (IMC) 已成为一种新的计算范式，能够缓解或抑制内存瓶颈，这是现代数字计算中能源效率和延迟的主要问题。虽然 IMC 概念简单且前景广阔，但其实施细节涵盖了广泛的问题和解决方案，包括各种内存技术、电路拓扑和编程/处理算法。本观点旨在提供涵盖 IMC 这一广泛主题的方向图。首先，将介绍内存技术，包括传统的互补金属氧化物半导体和新兴的电阻/忆阻设备。然后，将考虑电路架构，描述其目的和应用。电路包括流行的交叉点阵列和其他更先进的结构，例如闭环存储器阵列和三元内容可寻址存储器。同一电路可能服务于完全不同的应用，例如，交叉点阵列可用于加速神经网络中前向传播的矩阵向量乘法和反向传播训练的外积。本文将讨论实现电路功能多样化的不同算法和记忆特性。最后，本文将介绍 IMC 面临的主要挑战和机遇。
物理系理学硕士课程的新课程结构
PH401：数学物理 I (2-1-0-6) 线性代数：线性向量空间：对偶空间和向量、柯西-施瓦茨不等式、实数和复数向量空间的定义、度量空间、线性算子、子空间；跨度和线性独立性：行减少和方法；基础和维度：使用简化的跨度和独立性测试 (RREF) 方法；线性变换：图像、核、秩、基础变换、转移矩阵、同构、相似变换、正交性、Gram-Schmidt 程序、特征值和特征向量、希尔伯特空间]。张量：内积和外积、收缩、对称和反对称张量、度量张量、协变和逆变导数。常微分方程和偏微分方程：幂级数解、Frobenius 方法、Sturm-Liouville 理论和边界值问题、格林函数；笛卡尔和曲线坐标系中不同波动方程的分离变量法，涉及勒让德、埃尔米特、拉盖尔和贝塞尔函数等特殊函数以及涉及格林函数的方法及其应用。教材：