随机矩阵关键词检索结果

#472 - Terence Tao:数学,物理和AI

#472 – Terence Tao: Hardest Problems in Mathematics, Physics & the Future of AI

Terence Tao被广泛认为是历史上最伟大的数学家之一。他赢得了数学领域的奖牌和突破奖,并为从Navier-Stokes方程式到数学物理学和量子力学,质量数量和分析数理论,谐波分析,压缩感应,随机传感,随机矩阵理论,组合设备以及许多效果的数学效果的进展而做出了广泛的领域。 https://lexfridman.com/sponsors/ep472-scsee以下时间扫描,成绩单和给出反馈,要提交问题,联系Lex等:https://lexfridman.com/terence-tao-tao-tao-tao-tao-tao-tao-tao-transcript-contact lex lex

幼苗:将LLM的重量压缩到伪随机发电机的种子

SeedLM: Compressing LLM Weights into Seeds of Pseudo-Random Generators

大型语言模型(LLM)已改变了自然语言处理,但是由于其运行时的成本很高,因此在广泛部署方面面临着巨大的挑战。在本文中,我们介绍了一种新型的培训后压缩方法,该方法使用伪随机生成器的种子来编码和压缩模型权重。具体而言,对于每个权重,请在推断过程中为被馈入线性反馈移位寄存器(LFSR)的种子,以有效地生成随机矩阵。然后将该矩阵与压缩系数线性结合,以重建重量块……