Reducing the Size of AI Models
在边缘设备上运行大型 AI 模型使用 Pixlr 创建的图像AI 模型，尤其是大型语言模型 (LLM)，需要大量的 GPU 内存。例如，对于 2024 年 7 月发布的 LLaMA 3.1 模型，内存要求如下：80 亿参数模型需要 16 GB 内存（16 位浮点权重）更大的 4050 亿参数模型需要 810 GB（使用 16 位浮点数）在全尺寸机器学习模型中，权重表示为 32 位浮点数。现代模型具有数亿到数百亿（甚至数千亿）的权重。训练和运行如此大的模型非常耗费资源：它需要大量的计算（处理能力）。它需要大量的 GPU 内存。它会消耗大量的能源，特别是，造成这种能源消耗的最大因素是：- 使用 3
Total Return Forecasts: Major Asset Classes | 04 November 2024
10 月份，全球市场指数 (GMI) 的长期表现前景小幅走高。今天的修订预测标志着 GMI 在过去四个月中首次出现更高的估计，GMI 是一种非管理基准，包含所有主要资产类别（现金除外），基于通过一组 ETF 代理获得的市场权重。GMI 的长期预测是 […]
ISM manufacturing poor again in October
- 作者：New Deal democrat 和往常一样，下周将缺乏经济数据，因此我将报告建筑支出。与此同时，我们又收到了一份糟糕的 ISM 制造业报告，总指数下降至 46.5，为今年的最低读数，而领先的新订单分项指数则上涨 1.0 至 47.1。提醒一下，任何低于 50 的读数都意味着收缩。由于制造业对经济的重要性正在降低，并且在 2015-16 年和 2022 年都处于深度收缩状态，但没有发生任何衰退，因此我现在使用制造业和非制造业指数的经济加权三个月平均值，分别以 25% 和 75% 的权重进行预测。包括 10 月在内，以下是过去六个月的总体（左栏）和新订单（右栏）数字：5 月 48.9
10月11日，俄罗斯联邦统计局公布消费者价格指数，结果如下。 [综合指数（2024年9月）] - 与去年同月相比，为8.63%，高于市场预期1（8.55%），较上月（9.05%）有所下降（图1） - 与去年同月相比较上月为0.48%，市场预期（[核心指数2（2024年9月）] - 较去年同月为8.26%，较上月（8.44%）下降（图2） - 较去年同月下降0.75较上月 % 较上月 (0.60%) 1 彭博汇总中值有所加快。这同样适用于下面的预测值。 2 指数不包括受季节性因素影响的商品，例如生鲜食品和管制商品。俄罗斯9月通胀率同比为8.63%，自7月以来连续两个月下降，跌至8%区间。然而，俄
IEEE Transactions on Emerging Topics in Computational Intelligence, Volume 8, Number 5, October 2024
1) 资源可持续计算和人工智能特邀编辑特刊作者：Joey Tianyi Zhou, Ivor W. Tsang, Yew Soon Ong页数：3196 - 31982) 具有社会参与的电网运输系统的协调网络安全增强作者：Pengfei Zhao, Shuangqi Li, Paul Jen-Hwa Hu, Zhidong Cao, Chenghong Gu, Da Xie, Daniel Dajun Zeng页数：3199 - 32133) 用于可持续压缩感知的轻量级循环学习网络作者：Yu Zhou, Yu Chen, Xiao Zhang, Pan Lai, Lei Huang, Jian
Real aggregate payrolls and inflation preview for September
- 作者：新政民主党明天将公布 9 月份的消费者价格。就业报告中最好的短期预测工具——实际总就业人数几乎肯定会再次增加。让我们更详细地看一下。疫情后，名义上的总就业人数一直在不断增加。消费者价格几乎同样持续上涨，直到 2022 年 6 月。从那时起，工资单继续以快于价格的速度增长（下图中的标准两个系列都在疫情爆发前达到 100）：这是过去一年的逐月情况。在过去十二个月中，除了两个月外，工资单的增幅都远远超过消费者价格——这意味着，消费者有更多的工资收入（按实际价值计算）可供消费。9 月份，几乎可以肯定这一趋势将继续，总就业人数将增加 0.4%：消费者通胀主要受两个因素影响：汽油和住房。9 月份
来自 Mortgage News Daily 的 Matthew Graham：抵押贷款利率创 2 个月新高对于那些错误地认为美联储降息后抵押贷款利率会走低的人来说，这几周真是奇怪又令人沮丧。... 归根结底，市场陷入了数据会慢慢恶化的信念（最近几份就业报告被赋予了很大的权重），但最新的就业报告却说“没那么快！”目前正在发生一些重新调整。在我们获得更多经济数据之前，我们无法确切知道它会有多大。[30 年固定利率 6.62%]重点补充星期二：• 美国东部时间上午 6:00，NFIB 9 月份小企业乐观指数。• 上午 8:30，美国人口普查局公布 8 月份贸易平衡报告。市场普遍认为 8 月份的赤字
Nvidias öppna och massiva AI-modell NVLM utmanar GPT-4
Nvidia 宣布其新的 AI 模型 NVLM 已开源，可供更广泛的研究人员和开发人员社区使用。这一决定打破了先进人工智能系统封闭的趋势，并提供了前所未有的尖端技术获取途径。该模型的权重和训练代码将公开。然而，训练数据并不开放，这意味着 […]Nvidia 的开放式大规模 AI 模型 NVLM 挑战 GPT-4 的帖子首次出现在 AI 新闻中。
9月11日，俄罗斯联邦统计局公布消费者价格指数，结果如下。 [综合指数（2024年8月）] - 与去年同月相比，为9.05%，高于市场预测1（9.00%），较上月（9.13%）有所下降（图1） - 与去年同月相比较上月为0.20%，市场预测（核心指数2（2024年8月）：与去年同月相比为8.44%，高于市场预期（8.23%），较上月（8.60%）下降）图 2) - 较上月增长 0.60%，高于市场预期 (0.40%)，较上月 (0.40%) 有所加速 1 彭博社编制的中值。这同样适用于下面的预测值。 2 指数不包括受季节性因素影响的商品，例如生鲜食品和管制商品。俄罗斯8月通胀率较上年为9.05
Coastal Hazards System–South Atlantic (CHS-SA)
摘要：美国陆军工程兵团完成了南大西洋沿岸研究 (SACS)，以量化风暴潮和海浪危害，从而将沿海灾害系统 (CHS) 扩展到南大西洋分部 (SAD) 领域。CHS-SACS 的目标是量化当前条件和未来海平面上升情景下的风暴危害，以降低洪水风险并提高沿海环境的恢复力。CHS-SACS 已在 SAD 领域内的三个地区完成，本报告重点关注南大西洋 (CHS-SA)。本研究应用 CHS 的概率框架和增强元建模预测的联合概率方法 (JPM-AMP) 对热带气旋 (TC) 和温带气旋 (XC) 响应进行概率沿海危害分析 (PCHA)，利用新的大气和流体动力学数值模型模拟合成 TC 和历史 XC。本报告记录了
How Tiny Neural Networks Represent Basic Functions
通过简单的算法示例对机械可解释性进行简单介绍简介本文展示了小型人工神经网络 (NN) 如何表示基本功能。目标是提供有关 NN 工作原理的基本直觉，并作为机械可解释性的简单介绍——该领域旨在对 NN 进行逆向工程。我提供了三个基本函数的示例，使用简单的算法描述了每个函数，并展示了如何将算法“编码”到神经网络的权重中。然后，我探索网络是否可以使用反向传播来学习算法。我鼓励读者将每个示例视为一个谜语，并在阅读解决方案之前花一点时间。机器学习拓扑本文尝试将 NN 分解为离散操作并将其描述为算法。另一种方法可能更常见、更自然，即研究不同层中线性变换的连续拓扑解释。以下是一些有助于增强拓扑直觉的优秀资源：
Academy commissioners: blooming flowers to ballooning bureaucracy
2014 年 9 月，任命了八名地区学校专员来管理不断发展的学院系统。十年后，他们的角色发生了变化，官僚控制权重新转移到中央政府。《学校周刊》研究了这种转变。文章《学院专员：从盛开的鲜花到膨胀的官僚机构》首次出现在《学校周刊》上。
Total Return Forecasts: Major Asset Classes | 04 September 2024
8 月份全球市场指数 (GMI) 的修订长期表现预测再次下降。此次下调标志着 GMI 的预期回报率连续第二次下降，GMI 是一种非管理基准，通过一组 ETF 代理根据市场权重持有所有主要资产类别（现金除外）。GMI 的长期估计值下降至 […]
Manufacturing and construction together suggest weak but still expanding leading sectors
- 作者：New Deal democrat与往常一样，我们以两份关于制造业和建筑业主要行业的重要报告开始这个月。首先，ISM 制造业指数再次显示收缩，总体数字“负面程度降低”，从 46.8 上升至 47.2，而更领先的新订单分指数则急剧下降 -2.8，从 47.4 降至 44.6：包括八月在内，以下是总体（左栏）和新订单（右栏）数字的最后姐妹月：3 月 50.3。51.44 月 49.2 49.15 月 48.9。45.46 月 48.5。49.37 月。46.8。47.48 月 47.2。 44.6由于制造业对经济的重要性正在下降，并且在 2015-16 年和 2022 年都处于深度收缩
Austrian And Marginalist Capital Theory Without Foundation: A Summary
一个错误的理论认为价格传达了有关相对稀缺性的信息。弗里德里希·哈耶克以锡为例。根据这一理论，更高的工资会激励人们投资于劳动密集程度较低的技术，并将生产转向劳动密集程度较低的商品。同样，较低的利率会激励人们投资于资本密集程度更高的技术，并将生产转向资本密集程度更高的商品。人们曾多次尝试阐述这一理论，并将这一观点形式化：人们可以通过汇总生产一种商品时每人每年雇用的劳动力所使用的资本货物价格来衡量资本密集度。在转换点附近，较低的利率与采用资本密集程度更高的技术有关。主流经济学家埃德温·伯迈斯特 (Edwin Burmeister) 和戴维·钱佩罗恩 (David Champerowne) 的资本链式
Industrial production: negative number, important negative revisions
- 作者：新政民主党过去，工业生产一直是同步指标之王，因为其高峰和低谷往往几乎与经济衰退的开始和结束完全吻合。自 1999 年中国加入世界贸易体系以及美国制造业大规模迁往亚洲以来，这种权重有所减弱，产生了几个错误的衰退信号，最明显的是在 2015-16 年。但它仍然是经济中一个重要的同步指标。本月是修订产生重大影响的那些时候之一。上个月，我在文章的标题中指出，制造业和工业总产值均接近 10 年来的最高水平。但今天早上，这两个数字都被大幅下调，据报道，本月制造业下降了-0.3%，总产量下降了-0.6%（图表以疫情前的最高水位为标准，为100）：因此，这两个系列都曾进入同比正值区域，现在又略有回落
Microsoft lanserar Github Models som en konkurrent till Hugging Face
Microsoft 最近推出了 Github Models 一项新功能，旨在通过将生成式 AI 模型直接与 GitHub 上的现有工具和功能集成，使开发人员更容易使用生成式 AI 模型。 Github Models 主要是 GitHub 上提供的 Azure AI-Playground/集成，令人惊讶的是，Huggingface 不仅仅是一个权重 CDN，[…]微软推出 Github Models 作为 Hugging Face 的竞争对手的帖子首次出现在 AI 上。消息。
Industrial and manufacturing production close to 10 year+ highs in June
- 作者：New Deal democrat如果说今天早上住房建设方面的消息是警示性的，那么制造业和工业生产方面的消息就非常好了。 6 月份制造业产量（下图中红色部分）增长了 0.4%，仅比 2022 年 10 月的疫情后高点低 0.2%。它也仅比 2018 年 9 月创下的大衰退以来的最高水平低 1.2%。 总工业生产（蓝色）的消息甚至更好，6 月份增长了 0.6%，创下了疫情后的新高，仅比 2018 年 9 月创下的历史高点低 0.1%： 过去，工业生产一直是同步指标之王，因为它的波峰和波谷往往与经济衰退的开始和结束几乎完全重合。自 1999 年中国加入世界贸易体系以及美国制造业大规模迁往
