将基于 Transformer 的模型扩展到超过 1000 亿个参数已在自然语言处理中取得突破性成果。这些大型语言模型在各种应用中都表现出色，但由于生成推理的顺序性，有效部署它们带来了挑战，其中每个标记的计算都依赖于前面的标记。这需要细致的并行布局和内存帖子《大规模 Transformer 模型的有效部署：可扩展和低延迟推理策略》首先出现在 AI Quantum Intelligence 上。
An Early Look at 2025 Cost-Of-Living Adjustments and Maximum Contribution Base
美国劳工统计局昨天报告称：过去 12 个月，城市工薪阶层和文职人员的消费者价格指数 (CPI-W) 上涨了 3.3%，达到 308.163 的指数水平（1982-84=100）。当月，该指数在季节性调整之前上涨了 0.1%。CPI-W 是用于计算生活成本调整 (COLA) 的指数。计算日期随时间而变化（参见生活成本调整），但当前计算使用第三季度三个月（七月、八月、九月）的平均 CPI-W，并与第三季度月份中之前最高的平均值进行比较。注意：这不是总体 CPI-U，也未经季节性调整 (NSA)。• 2023 年，CPI-W 第三季度平均值为 301.236。2023 年第三季度平均值是最高的第三季
Exploring Medusa and Multi-Token Prediction
这篇博文将详细介绍“MEDUSA：具有多个解码头的简单 LLM 推理加速框架”论文作者 — SDXL 的图片互联网是一个竞争异常激烈的地方。研究表明，如果网页加载时间超过 5 秒，客户就会离开网页 [2][3]。这对大多数大型语言模型 (LLM) 来说是一个挑战，因为它们无疑是目前最慢的程序之一。虽然定制硬件可以显着加快您的 LLM 速度，但目前在这种硬件上运行成本很高。如果我们能够找到充分利用标准硬件的方法，我们将能够大幅提升 LLM 的客户体验。《MEDUSA：具有多个解码头的简单 LLM 推理加速框架》论文的作者提出了一种架构变更，在现有硬件上运行时可实现 2 至 3 倍的速度提升。让我
From MOCO v1 to v3: Towards Building a Dynamic Dictionary for Self-Supervised Learning — Part 1
从 MOCO v1 到 v3：走向构建自监督学习的动态词典 - 第 1 部分对动量对比学习框架的简要回顾我们是否已经进入自监督学习时代？数据每天都在流入。人们全天候工作。工作分布在世界的每个角落。但是，仍然有如此多的数据未注释，等待新模型、新训练或新升级的可能使用。或者，它永远不会发生。当世界以监督的方式运行时，它永远不会发生。近年来，自监督学习的兴起揭示了一个新的方向。自监督学习不是为所有任务创建注释，而是将任务分解为前置/预训练（请参阅我之前关于预训练的帖子）任务和下游任务。前置任务专注于从整个数据集中提取代表性特征，而无需任何基本事实注释的指导。尽管如此，此任务仍需要从数据集自动生成标签
Alytes obstetricans lusitanicus Ambu, Martínez-Solano & Dufresnes, 2024 biotaxa.org/Alytes/article/view/85334 x.com/batracofistrophoto: Christophe Dufresnes摘要生物多样性的绘图、划定和命名在学术研究、保护工作和野生动物交流之间建立了联系。助产士蟾蜍属于 Alytes 亚属，是欧洲博物学家广泛关注的一组高度保护物种，但其分类仍未确定。已鉴定出在上新世和更新世期间分化的六个系统地理谱系，并将它们划分为两个物种（A. obstetricans 和
News24 Business | Treasury: SA is on track to get off the grey list next year
南非必须在 2 月之前解决金融行动特别工作组标记的项目，以便在 2025 年 6 月之前将其从所谓的灰名单中剔除。
High Quality Data Essential for Training A.I. Models
将此上下文添加到原始数据是一个称为数据标记的过程，被认为是训练机器学习算法的关键步骤。...。。→ 阅读更多：训练人工智能模型必不可少的高质量数据
Decoding the Airport Runway: A Guide to Runway Designators and Threshold Markings
您是否曾经对机场跑道上那些看似神秘的数字和字母感到好奇？这些标记被称为跑道指示器和阈值标记，在确保空中交通的安全和效率方面发挥着至关重要的作用。本文深入探讨了跑道标记的世界，解释了它们的含义以及如何使用它们 […] 文章《解读机场跑道：跑道指示器和阈值标记指南》首先出现在 Aviation for Aviators 上。
Babs Kitography - 1/72 scale Part 2 Hasegawa
Hasegawa 将 Mania Ki-15-I 套件重新发布为 A31，装在如上所示的“红色闪光”盒中，英文标题为“三菱 BABS Ki-15-I 日本侦察机”。关于该飞机有一小段日文文字，其中提到了埋头铆钉，后面跟着日文标题“九七式总部侦察机 1 型 - 日本陆军总部侦察机”。Scalemates 给出的年份为 1977 年，而 Burns* 列出的年份为 1978 年至 1980 年，这似乎更有可能。盒子上没有显示版权日期。Shigeo Koike 为 Hasegawa 发行的 Mania 盒装封面重新绘制了封面，仔细观察了匿名的云形伪装 Babs，这次被带有中国标记的鲨鱼嘴 P-40E
Ghostbuster: Detecting Text Ghostwritten by Large Language Models
Ghostbuster 的结构，这是我们用于检测 AI 生成文本的全新先进方法。大型语言模型（如 ChatGPT）的写作能力令人印象深刻，甚至因此成为问题。学生已经开始使用这些模型来代写作业，导致一些学校禁止使用 ChatGPT。此外，这些模型还容易生成存在事实错误的文本，因此谨慎的读者在信任生成 AI 工具之前，可能希望了解这些工具是否曾被用于代写新闻文章或其他来源。教师和消费者可以做什么？现有的用于检测 AI 生成文本的工具有时在处理与训练数据不同的数据时表现不佳。此外，如果这些模型错误地将真实的人类写作归类为 AI 生成，则可能会危及那些真实作品受到质疑的学生。我们最近的论文介绍了 Gh
Civ Robotics выпустила CivDash - решение для автоматизации нанесения дорожной разметки
Civ Robotics去年推出了自主测量机器人CivDot，并发布了一款用于自动应用道路标记的新设备。据该公司称，CivDash 的使用将加速并确保这项工作的安全。
AMC removes code used to identify female flyers
在研究无意识的性别偏见时，一名空中机动司令部指挥官提出了删除一个遗留标记的想法，该标记曾经旨在为女性机组人员确保适当的住宿和准备物品。
GAO 发现的内容社会保障局 (SSA) 在确定申请人的健康或财务状况（例如患有绝症或迫切的财务需求）符合 SSA 政策手册中的标准后，将残疾上诉案件标记为“危急”。案件可以在到达听证办公室之前或听证过程的几乎任何阶段被标记为“危急”。SSA 政策指示工作人员在案件被标记为“危急”后加快处理。然而，GAO 采访的五个选定办公室中的三个办公室的工作人员表示，申请人必须提供其迫切的财务需求的证明文件，即使 SSA 政策没有要求这样做。在 2010 财年和 2020 财年之间，听证办公室处理危急案件的速度始终快于非危急案件，但等待时间因案件首次被标记的时间而异。到达听证办公室时被标记的案件中位数需要
Understanding Deep Learning Algorithms that Leverage Unlabeled Data, Part 1: Self-training
深度模型需要大量的训练样本，但标记数据很难获得。这激发了利用未标记数据的重要研究方向，而未标记数据通常更容易获得。例如，可以通过爬取网络获取大量未标记的图像数据，而 ImageNet 等标记数据集则需要昂贵的标记程序。在最近的实证发展中，使用未标记数据训练的模型已开始接近全监督性能（例如 Chen 等人，2020 年，Sohn 等人，2020 年）。本系列博客文章将讨论我们的理论工作，该工作旨在分析使用未标记数据的最新实证方法。在第一篇文章中，我们将分析自我训练，这是一种非常有影响力的半监督学习和领域自适应算法范式。在第 2 部分中，我们将使用相关理论思想来分析自监督对比学习算法，这种算法对于
Understanding Deep Learning Algorithms that Leverage Unlabeled Data, Part 1: Self-training
深度模型需要大量的训练样本，但标记数据很难获得。这激发了利用未标记数据的重要研究方向，而未标记数据通常更容易获得。例如，可以通过爬取网络获取大量未标记的图像数据，而 ImageNet 等标记数据集则需要昂贵的标记程序。在最近的实证发展中，使用未标记数据训练的模型已开始接近全监督性能（例如 Chen 等人，2020 年，Sohn 等人，2020 年）。本系列博客文章将讨论我们的理论工作，该工作旨在分析使用未标记数据的最新实证方法。在第一篇文章中，我们将分析自我训练，这是一种非常有影响力的半监督学习和领域自适应算法范式。在第 2 部分中，我们将使用相关理论思想来分析自监督对比学习算法，这种算法对于
Минздрав и «Ростех» создали первую версию федеральной ИИ-платформы для здравоохранения
据《生意人报》报道，卫生部与 Rostec 共同创建了第一个版本的联邦医疗保健人工智能 (AI) 平台。该项目计划将匿名和标记的医疗数据合并到经过验证的数据集中，并为 IT 公司提供开发和测试人工智能服务的平台。主要数据来源将是医疗保健领域统一国家信息系统的子系统“联邦综合电子病历”。还计划使用卫生部所属国家医学研究中心积累的医疗信息作为数据来源。例如，A. V. Vishnevsky 国家外科医学研究中心、N. N. Blokhin 国家肿瘤医学研究中心、国家内分泌医学研究中心、V. A. Almazov 国家医学研究中心和 N. N. Burdenko 院士国家神经外科医学研究中心。 Ro
GAO 发现的内容执法机构在刑事调查中主要使用三种取证算法：潜纹、面部识别和概率基因分型。每种方法都比相关的传统取证方法具有优势，但分析人员和调查人员在使用它们协助刑事调查时也面临挑战。潜在指纹算法可帮助分析人员将犯罪现场的潜在指纹中的细节与数据库中的指纹进行比较。这些算法可以比单独的分析师更快、更一致地搜索更大的数据库。准确性是根据各种影响因素进行评估的，包括图像质量、识别的图像特征（例如脊线图案）的数量以及分析师完成的特征标记的变化。 GAO 指出了使用这些算法的一些限制和挑战。例如，质量差的潜在或已知指纹会降低准确性。面部识别算法可帮助分析人员从图像中提取数字细节，并将其与数据库中的图像
Model-assisted labelling - For better or for worse?
毫无疑问，对于许多 AI 项目来说，收集数据是项目最昂贵的部分。标记图像和文本片段等数据是一项艰巨而繁琐的工作，而且没有太大的扩展可能性。如果 AI 项目需要不断更新或获取新数据，那么这可能是一项高昂的成本，可能会对一个原本很棒的项目的整个商业案例构成挑战。不过，有一些策略可以降低标记数据的成本。我之前写过关于主动学习的文章；这是一种数据收集策略，侧重于在模型置信度最低的情况下优先标记最重要的数据。这是一个很好的策略，但在大多数情况下，您仍然需要标记大量数据。为了加快标记过程，出现了模型辅助标记策略。这个想法很简单，就是在标记的同时训练 AI，当 AI 开始在数据中看到某种模式时，AI 会向标
