XiaoMi-AI文件搜索系统
World File Search SystemHessian
亚特兰大宪法协会
他们炸毁了法军控制的一条战壕，杀死了所有战壕中的人员。法军也被赶出了阿尔萨斯的 Burnhaupt-Le-Haut。在东部，德军于 1 月 7 日俘虏了 2,000 名战俘和 7 挺机枪。通讯内容如下：“在西部战线，大雨倾盆，看起来更像是倾盆大雨。昨天一整天都听到雷声。一些地方的河水已经泛滥。“敌人对苏瓦松东北部的几次进攻都被击退，法军损失惨重。法军在沙隆以北的佩尔特附近发起进攻，但遭到了击退，敌人损失惨重。“在阿利通讷东部，我们的部队成功攻入法军阵地，俘虏了 1,200 名俘虏，缴获了一些地雷发射器和一门青铜迫击炮。洛林营和黑森伊詹德维尔营在这次战斗中表现尤为突出
B. Tech。土木工程计划
线性代数基础知识：向量空间和子空间，基础和维度，血统转换，四个基本子空间。矩阵理论：规范和空间，特征值和特征向量，特殊矩阵及其特性，最小平方和最小规范的解决方案。矩阵分解算法-SVD：属性和应用，低等级近似值，革兰氏施密特过程，极性分解。尺寸还原算法和JCF：主成分分析，血统判别分析，最小多项式和约旦的规范形式。微积分：微积分的基本概念：部分导数，梯度，定向衍生物Jacobian，Hessian，凸集，凸功能及其属性。优化：无约束和受约束的优化，受约束和不受约束优化的数值优化技术：牛顿的方法，最陡的下降方法，惩罚函数方法。概率：概率的基本概念：条件概率，贝叶斯定理独立性，总概率，期望和方差定理，几乎没有离散和连续分布，联合分布和协方差。支持向量机：SVM简介，错误最大程度地减少LPP，双重性和软边距分类器的概念。参考书：
APTQ：面向大型语言模型的注意力感知训练后混合精度量化
大型语言模型 (LLM) 极大地推进了自然语言处理范式。然而，高计算负荷和巨大的模型大小对在边缘设备上的部署提出了巨大挑战。为此，我们为 LLM 提出了 APTQ（注意感知训练后混合精度量化），它不仅考虑了每层权重的二阶信息，而且首次考虑了注意输出对整个模型的非线性影响。我们利用 Hessian 迹作为混合精度量化的敏感度指标，确保在保留模型性能的情况下进行明智的精度降低。实验表明，APTQ 超越了之前的量化方法，在 C4 数据集中实现了平均 4 位宽度和 5.22 困惑度，几乎相当于全精度。此外，APTQ 在 LLaMa-7B 和 LLaMa-13B 中分别以平均 3.8 的位宽实现了 68.24% 和 70.48% 的最佳零样本准确率，证明了其生成高质量量化 LLM 的有效性。
多目标BI ...
摘要。在本文中，我们研究了多目标双级操作（MOBLO）问题，其中高级子问题是一个多目标优化问题，而下层子问题则用于标量优化。现有的基于梯度的MOBLO算法需要计算Hessian矩阵，从而导致综合性不足的问题。为了解决这个问题，我们提出了一个效率的Moblo的第一阶多率方法，称为论坛。特别是，我们通过价值功能函数重新将MOBLO问题重新制定为受约束的多目标优化（MOO）问题。然后，我们提出了一种新型的多进型聚合方法，以解决具有挑战性的约束MOO问题。从理论上讲，我们提供了复杂性分析，以显示所提出的方法的效率和非反应收敛的结果。经验，广泛的实验证明了拟议论坛方法在不同学习概率中的有效性和效率。特别是，它在三个多任务学习基准数据集上实现了最先进的性能。代码可在https://github.com/baijiong-lin/forum上获得。
大型数据集上保留隐私的逻辑回归培训
隐私的机器学习是一类密码方法，旨在分析私人和敏感数据的同时保留隐私，例如在大型加密数据上使用同型逻辑回归培训。在本文中，我们提出了一种有效的算法，用于使用同态加密（HE）对大加密数据进行逻辑回归训练，这是使用更快的渐变变体称为Quadratic梯度的最新方法的迷你批量版本。据称，二次梯度可以将曲线信息（Hessian矩阵）集成到梯度中，因此可以有效地加速一阶梯度（下降）算法。当加密的数据集如此之大，以至于必须以迷你批次方式加密时，我们还实现了其方法的全批量版本。我们将迷你批次算法与我们的全批量实施方法进行了比较，这些方法由422,108个带有200粒的样本组成的真实财务数据进行了比较。鉴于HES的效率低下，我们的结果令人鼓舞，并证明了大型加密数据集的Logistic回归培训具有可行性，这标志着我们理解的重要里程碑。
使用神经网络解决特征问题
机器学习或模式识别中出现的许多问题都可以归结为求解关于 x 和 λ 的特征值问题 Ax = λx。降维（PCA、Fisher 判别）、谱聚类或数据表示（拉普拉斯、Hessian 特征图或扩散图）等任务都是基于计算矩阵的特征向量和特征值。有多种方法可以找到矩阵的谱分解。由于在高维中查找矩阵特征多项式的根在计算上不可行，因此只有在特殊情况下才有可能在有限的步骤内准确计算出特征值。通常，查找特征值和特征向量的算法是迭代的，例如幂法、逆法、瑞利商法、QR 方法，并且提供数值近似值而不是精确解。随着行业中矩阵规模的增加，使用快速、准确且可行的方法（即使对于大量数据也适用）尽可能高效地解决特征问题变得非常重要。最近，针对此问题提出了基于神经网络的方法。研究表明，他们的方法可以在相对较短的训练时间内成功解决线性代数系统。在本文中，我们将使用人工神经网络 (ANN) 解决特征问题，并在准确性、效率等方面将结果与标准求解器进行比较。我们通过求解热方程来证明所获得的特征向量的准确性。
2312.07438.pdf
摘要。量子相对熵 (QRE) 规划是最近流行且具有挑战性的一类凸优化问题，在量子计算和量子信息理论中具有重要应用。我们对基于 QRE 锥的最佳自协调屏障的现代内点 (IP) 方法感兴趣。与此类屏障函数和 QRE 锥相关的一系列理论和数值挑战阻碍了 IP 方法的可扩展性。为了应对这些挑战，我们提出了一系列数值和线性代数技术和启发式方法，旨在提高自协调屏障函数的梯度和 Hessian 计算效率、求解线性系统和执行矩阵向量积。我们还介绍并讨论了与 QRE 相关的一些有趣概念，例如对称量子相对熵 (SQRE)。我们设计了一种两阶段方法来执行面部缩减，可以显著提高 QRE 编程的性能。我们的新技术已在软件包 DDS 的最新版本 (DDS 2.2) 中实现。除了处理 QRE 约束之外，DDS 还接受其他几种圆锥和非圆锥凸约束的任意组合。我们的综合数值实验涵盖几个部分，包括 1) 比较 DDS 2.2 与 Hypatia 的最近相关矩阵问题，2) 使用 DDS 2.2 将 QRE 约束与各种其他约束类型相结合，以及 3) 计算量子密钥分发 (QKD) 信道的密钥速率并展示几种 QKD 协议的结果。
有效识别用于建模高维大脑动力学
摘要 - 系统识别为表征和控制复杂系统的表征带来了重要的瓶颈。当系统状态和参数都无法直接访问时，这是最大的，导致双重估计问题。当前解决此类问题的方法在Net Works中经常发生的多参数系统的扩展能力受到限制。在当前工作中，我们提出了一种新的计算有效方法来处理大型双重估计问题。在这项工作中，我们得出了预测错误方法的分析后传播梯度，该方法可以有效，准确地识别大型系统。PEM方法包括将状态估计直接整合到双重优化目标中，仅在未知系统参数方面留下可区分的成本/错误函数，我们使用数值梯度/HESSIAN方法求解。直觉，此方法包括求解生成最精确状态估计器（扩展/cubature Kalman滤波器）的参数。我们证明，尽管复杂性较低，但在状态和参数估计中至少与关节Kalman过滤器（Excent/Unnesped/Cubature）和期望最大化一样准确。我们通过从人类磁脑摄影（MEG）数据中反转解剖学的个性化脑模型来证明我们的实用性。
卢布尔贾纳大学电气工程系学院电子电子设计自动化实验室TR
•ŽigaRojec，Iztok Fajfar，ArpadBürmen，“失败 - 弹性模拟电路的进化综合”，数学，2022年1月1日，ISS。1，156，str。1-20，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/10/1/156，doi：10.3390/Math10010156。 •MatevžKunaver，ArpadBürmen，Iztok Fajfar，“基于基于语法的基于语法进化的优化矩阵分解算法”，数学，4月1日，4月1日，ISS。 7，1139，str。 1-22，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/7/1139，doi：10.3390/Math10071139。 •ŽigaRojec，Tadej tuma，Jernejolenšek，ArpadBürmen，Janez Puhan，“在高维问题中，Nelder-Mead-Mead-Mead算法的维度适应性参数模式的元访问” 13，2288，str。 1-16，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/13，doi：10.3390/Math10132288。 •ArpadBürmen，Tadej Tuma，Jernejolenšek，“随机简单的Hessian更新”，《数学》，8月1日，2021年，ISS。 15，1775，Str。 1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。 •MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。 ]，2021年11月，ISS。 1859年11月11日。 1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月1-20，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/10/1/156，doi：10.3390/Math10010156。•MatevžKunaver，ArpadBürmen，Iztok Fajfar，“基于基于语法的基于语法进化的优化矩阵分解算法”，数学，4月1日，4月1日，ISS。7，1139，str。1-22，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/7/1139，doi：10.3390/Math10071139。 •ŽigaRojec，Tadej tuma，Jernejolenšek，ArpadBürmen，Janez Puhan，“在高维问题中，Nelder-Mead-Mead-Mead算法的维度适应性参数模式的元访问” 13，2288，str。 1-16，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/13，doi：10.3390/Math10132288。 •ArpadBürmen，Tadej Tuma，Jernejolenšek，“随机简单的Hessian更新”，《数学》，8月1日，2021年，ISS。 15，1775，Str。 1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。 •MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。 ]，2021年11月，ISS。 1859年11月11日。 1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月1-22，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/7/1139，doi：10.3390/Math10071139。•ŽigaRojec，Tadej tuma，Jernejolenšek，ArpadBürmen，Janez Puhan，“在高维问题中，Nelder-Mead-Mead-Mead算法的维度适应性参数模式的元访问”13，2288，str。1-16，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/13，doi：10.3390/Math10132288。 •ArpadBürmen，Tadej Tuma，Jernejolenšek，“随机简单的Hessian更新”，《数学》，8月1日，2021年，ISS。 15，1775，Str。 1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。 •MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。 ]，2021年11月，ISS。 1859年11月11日。 1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月1-16，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/22227-7390/10/13，doi：10.3390/Math10132288。•ArpadBürmen，Tadej Tuma，Jernejolenšek，“随机简单的Hessian更新”，《数学》，8月1日，2021年，ISS。15，1775，Str。 1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。 •MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。 ]，2021年11月，ISS。 1859年11月11日。 1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月15，1775，Str。1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。 •MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。 ]，2021年11月，ISS。 1859年11月11日。 1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月1-18，Ilustr。，ISSN 2227-7390，https：//www.mdpi.com/2227-7390/9/9/15/1775，doi：10.3390/Math9151775。•MatevžKunaver，Markžic，Iztok Fajfar，Tadej tuma，Tadej tuma，ArpadBürmen，Vanjasubotić，ŽigaRojec，“合成电气等效的电路，用于通过语法进化，用于电化学阻抗光谱，以通过语法进化来实现。]，2021年11月，ISS。1859年11月11日。1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。 9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月1-17，Ilustr。，ISSN 2227-9717，https：//www.mdpi.com/2227-9717/9/9/11/1859，doi：10.3390/pr91111859。9，ISS。 9，str。 ]，2019年，第1卷。 74，str。 ]，4月9，ISS。9，str。]，2019年，第1卷。74，str。]，4月•Janez Puhan，ArpadBürmen，Tadej tuma，Iztok Fajfar，“混合相干/不相互结构的辐照：一种分析方法”，涂料，2019年9月，第1卷，第1卷。1-16，Ilustr。，ISSN 2079-6412，https：//www.mdpi.com/2079-6412/9/9/536，doi：10.3390/coatings9090536。•ArpadBürmen，Iztok Fajfar，“网状自适应直接搜索，具有简单的Hessian Update”，计算优化和应用程序，[PRINT ED。645-667，Ilustr。，ISSN 0926-6003，https：//link.springer.com/article.com/article/10.1007%2FS10589-019-00133-6，doi：10.1007/s10589-019-019-00133-3-6。•ŽigaRojec，ArpadBürmen，Iztok Fajfar，“通过进化计算，模拟电路拓扑合成”，人工智能的工程应用，[Print Ed ed。2019，第1卷。 80，str。 48-65，Ilustr。，ISSN 0952-1976，https：//www.sciencedirect.com/science/article/article/pii/s0952197619300119，doi：10.1016/j.engappai.2019.01.01.012。 •IZTOK FAJFAR，ARPADBürmen，Janez Puhan，“ Nelder-Mead-Mead-Mead Simplex算法，具有扰动的质心，用于高维函数优化”，优化字母，2019，13，13，STR。 1011-1025，ILUSTR。，ISSN 1862-4472，https：//link.springer.com/article/10.1007/s11590-018-1306-2，doi：10.1007/s11590-018-1306-2。2019，第1卷。80，str。48-65，Ilustr。，ISSN 0952-1976，https：//www.sciencedirect.com/science/article/article/pii/s0952197619300119，doi：10.1016/j.engappai.2019.01.01.012。 •IZTOK FAJFAR，ARPADBürmen，Janez Puhan，“ Nelder-Mead-Mead-Mead Simplex算法，具有扰动的质心，用于高维函数优化”，优化字母，2019，13，13，STR。 1011-1025，ILUSTR。，ISSN 1862-4472，https：//link.springer.com/article/10.1007/s11590-018-1306-2，doi：10.1007/s11590-018-1306-2。48-65，Ilustr。，ISSN 0952-1976，https：//www.sciencedirect.com/science/article/article/pii/s0952197619300119，doi：10.1016/j.engappai.2019.01.01.012。•IZTOK FAJFAR，ARPADBürmen，Janez Puhan，“ Nelder-Mead-Mead-Mead Simplex算法，具有扰动的质心，用于高维函数优化”，优化字母，2019，13，13，STR。1011-1025，ILUSTR。，ISSN 1862-4472，https：//link.springer.com/article/10.1007/s11590-018-1306-2，doi：10.1007/s11590-018-1306-2。1011-1025，ILUSTR。，ISSN 1862-4472，https：//link.springer.com/article/10.1007/s11590-018-1306-2，doi：10.1007/s11590-018-1306-2。
黄麻废物用于可持续生态电影制备
摘要：黄麻卡迪斯是黄麻织物（解雇和黑森）生产产生的废物木质纤维素生物量。黄麻纤维纤维素（JCC）是一种可持续的来源，并且具有很高的潜力，可用于制备可生物降解膜。在这项研究中，用从JCC中提取的纤维素开发了柔性，半透明，可生物降解和高耐水的生态膜。通过碱性水解从JCC中分离出宏观纤维素。通过真空过滤产生不同量的JCC的柔性和半透明的纤维素膜。可生物降解的热塑性聚氨酯（TPU）是自组装并热压到制造半透明膜的。使用现代技术的机械性能，结构变化，热稳定性和耐水性研究了制备的生态膜。具有完全的灵活性（折叠耐受性> 100），JCC膜的拉伸强度高于低密度聚乙烯（LDPE）膜的拉伸强度。TPU涂层的JCC胶片的拉伸强度比原始的未涂层膜高约4倍。膜表现出极好的防水性，表明水接触角高于100°，即使在20分钟后，水滴也稳定。对JCC膜的燃烧测试表明，它们产生了灰烬，例如燃烧，表明易于清洁的生物降解。制造的JCC Eco-Films可能是一种可持续的方法，用于替换化石燃料的石油塑料材料用于包装应用。关键字：黄麻卡迪斯纤维素，热塑性聚氨酯，接触角，生物降解性，生态膜，功能涂料■简介