On Information Geometry and Iterative Optimization in Model Compression: Operator Factorization
深度学习模型的不断增长的参数计数需要有效的压缩技术，以在资源受限的设备上部署。本文探讨了信息几何形状的应用，即密度诱导的参数空间指标的研究，以分析模型压缩空间内的现有方法，主要集中于操作员分解。采用这种观点强调了核心挑战：定义最佳的低计算子曼if（或子集）并投射到它上。我们认为可以理解许多成功的模型压缩方法……
CommVQ: Commutative Vector Quantization for KV Cache Compression
大语言模型（LLMS）越来越多地用于需要长上下文长度的应用中，但是随着连接长度的增长，键值（KV）缓存通常会成为GPU上的内存瓶颈。为了解决这个问题，我们提出了交换矢量量化（COMMVQ），以显着减少长篇小说LLM推理的内存使用情况。首先，我们通过引入轻量级编码器和代码本来压缩KV缓存来利用加法量化，然后可以用简单的矩阵乘法来解码。其次，要解决解码过程中的高计算成本，我们设计了…
New Proof Dramatically Compresses Space Needed for Computation
令人惊讶的新作品雄鹿关于计算空间与时间之间权衡的50年假设
Beyond Text Compression: Evaluating Tokenizers Across Scales
令牌设计师的设计显着影响语言模型性能，但是评估令牌质量仍然具有挑战性。尽管文本压缩已成为一种常见的内在度量，但最近的工作质疑其作为质量指标的可靠性。 We investigate whether evaluating tokenizers on smaller models (350M parameters) reliably predicts their impact at larger scales (2.7B parameters).Through experiments with established tokenizers from widely-adopted language m
Efficient Graph Storage for Entity Resolution Using Clique-Based Compression
实体分辨率系统通过密集的，互连的图面临挑战，基于集团的图形压缩通过减少存储开销和在数据删除和重新处理过程中改善系统性能，从而提供了有效的解决方案。使用基于集团的压缩的实体分辨率的Post Efficity Graph Storage首先出现在数据科学方面。
Model Compression: Make Your Machine Learning Models Lighter and Faster
深入研究修剪，量化，蒸馏和其他技术，以使您的神经网络更加有效，更易于部署。邮政模型压缩：使您的机器学习模型更轻松，更快地出现在数据科学方面。
Self-Authenticating Images Through Simple JPEG Compression
对篡改图像带来的风险的担忧一直在过去几年中定期出现，尤其是鉴于能够修改现有图像的新的基于AI的图像编辑框架的新激增，而不是直接创建它们。解决此类内容掉落的大多数提出的检测系统[…]通过简单的JPEG压缩的自真实真实图像首次出现在Unite.AI上。
Old oil wells might store the secret to viability of compressed air storage
根据美国的最新型号，将压缩空气存储在旧的油井中，然后将其释放到驱动能源涡轮机上，作为一种更具可持续性的能源，这看起来很有希望。该过程称为压缩空气储能（CAES）。宾夕法尼亚州立大学的研究人员已经涡轮增压了CAE的表现，这是一种挣扎的可再生能源[…]
SeedLM: Compressing LLM Weights into Seeds of Pseudo-Random Generators
大型语言模型（LLM）已改变了自然语言处理，但是由于其运行时的成本很高，因此在广泛部署方面面临着巨大的挑战。在本文中，我们介绍了一种新型的培训后压缩方法，该方法使用伪随机生成器的种子来编码和压缩模型权重。具体而言，对于每个权重，请在推断过程中为被馈入线性反馈移位寄存器（LFSR）的种子，以有效地生成随机矩阵。然后将该矩阵与压缩系数线性结合，以重建重量块……
H.R. 1182, Compressed Gas Cylinder Safety and Oversight Improvements Act of 2025
由众议院运输与基础设施委员会的下令于2025年2月26日
美国工人在AI的工作场所未来有所分歧，而NOAA最近的裁员引起了人们对基本服务的担忧。邮政每日剂量：美国工人对AI的未来表现出不同的看法； Meta在暴力内容洪水泛滥后道歉。首次出现在科学询问者上。
Sea sponge inspires super strong compressible material
RMIT工程师开发了一种生物启发的辅助晶格材料，增强了可持续结构和保护性应用的抗压强度，刚度和能量吸收。后海海绵启发了科学询问者最早出现的超强压缩材料。
Sea sponge inspires super strong compressible material
受RMIT University工程师的启发，受到卑微的深海海绵的启发，开发了一种具有显着抗压强度和僵硬的新材料，可以改善建筑和产品设计。
在新的压缩算法缩小其大小后，在智能手机或笔记本电脑上本地运行大规模 AI 模型可能成为可能——这意味着您的数据永远不会离开您的设备。问题是它可能会在一小时内耗尽您的电池。
Do Compressed LLMs Forget Knowledge? An Experimental Study with Practical Implications
这篇论文被 NeurIPS 2024 的机器学习和压缩研讨会接受。压缩大型语言模型 (LLM) 通常会导致性能下降，尤其是对于知识密集型任务。在这项工作中，我们深入研究了压缩如何破坏 LLM 的固有知识以及可能的补救措施。我们首先对损害的性质提出两种猜想：一是某些知识在 LLM 压缩后被遗忘（或抹去），因此需要压缩模型从具有附加参数的数据中（重新）学习；另一个假设知识是内部的……
How to Compress PDFs for Efficient Classroom Resource Sharing
有效的文件管理对于数字学习环境中的教育者和学生至关重要。随着教学资源越来越依赖数字……更多
