推理关键词检索结果

用于低成本推理的 10 个小型高效模型 API

Top 10 Small & Efficient Model APIs for Low‑Cost Inference

了解什么是 GPU 分段、TimeSlicing 和多实例 GPU (MIG) 等技术如何工作,以及 Clarifai 如何自动执行 GPU 共享以高效运行多个 AI 工作负载。

确保 Amazon Bedrock 跨区域推理的安全:地理和全球

Securing Amazon Bedrock cross-Region inference: Geographic and global

在本文中,我们探讨了实施 Amazon Bedrock 跨区域推理配置文件的安全注意事项和最佳实践。无论您是构建生成式 AI 应用程序还是需要满足特定的区域合规性要求,本指南都将帮助您了解 Amazon Bedrock CRIS 的安全架构以及如何正确配置您的实施。

MoE 比您想象的更强大:使用 RoE 进行超并行推理扩展

MoEs Are Stronger than You Think: Hyper-Parallel Inference Scaling with RoE

大型语言模型 (LLM) 的生成质量通常可以通过利用推理时间序列级缩放方法(例如思想链)来提高。我们引入了超并行扩展,这是一种补充框架,可以提高令牌级别的预测质量。超并行扩展计算并聚合模型中单个令牌的多个输出建议。我们在专家混合 (MoE) 模型中实现这一概念,我们将其称为专家名册 (RoE)。 RoE 是一种免训练推理算法,可将单个 MoE 转变为 MoE 的动态集合。投资回报率...

优化批量 AI/ML 推理工作负载中的数据传输

Optimizing Data Transfer in Batched AI/ML Inference Workloads

借助 NVIDIA Nsight™ 系统深入探讨数据传输瓶颈、识别瓶颈及其解决方案 - 第 2 部分优化批量 AI/ML 推理工作负载中的数据传输一文首先出现在 Towards Data Science 上。

使用混合摊销推理从光电体积描记法推断光学组织属性

Inferring Optical Tissue Properties from Photoplethysmography using Hybrid Amortized Inference

智能可穿戴设备能够通过光电体积描记法 (PPG) 持续跟踪已建立的生物标志物,例如心率、心率变异性和血氧饱和度。正如最近的深度学习 (DL) 研究表明,除了这些指标之外,PPG 波形还包含更丰富的生理信息。然而,深度学习模型通常依赖于生理意义不明确的特征,从而在预测能力、临床可解释性和传感器设计之间造成紧张。我们通过引入 PPGen 来解决这一差距,PPGen 是一种生物物理模型,它将 PPG 信号与可解释的生理和光学联系起来......

在 Amazon SageMaker AI 上使用 AWQ 和 GPTQ 通过训练后权重和激活加速 LLM 推理

Accelerating LLM inference with post-training weight and activation using AWQ and GPTQ on Amazon SageMaker AI

使用几行代码即可将量化模型无缝部署在 Amazon SageMaker AI 上。在这篇文章中,我们探讨了为什么量化很重要——它如何实现更低成本的推理,支持在资源受限的硬件上的部署,并减少现代法学硕士对财务和环境的影响,同时保留其大部分原始性能。我们还深入研究 PTQ 背后的原理,并演示如何量化您选择的模型并将其部署在 Amazon SageMaker 上。

AAAI 主席小组 – 人工智能推理

AAAI presidential panel – AI reasoning

Elise Racine & The Bigger Picture / Web of Influence I / Licensed by CC-BY 4.0 2025 年 3 月,人工智能促进协会 (AAAI) 发布了一份关于人工智能研究的未来的报告。该报告由即将离任的 AAAI 主席 Francesca Rossi 领导,涵盖 17 个不同的人工智能主题和目标 [...]

概率多变量推理:将流利的 LLM 答案转化为加权选项

Probabilistic Multi-Variant Reasoning: Turning Fluent LLM Answers Into Weighted Options

人类引导的 AI 协作概率多变量推理:将流畅的 LLM 答案转化为加权选项一文首先出现在《走向数据科学》上。

如何将 Kimi K2 API 与 Clarifai 结合使用 |快速、可扩展的人工智能推理

How to Use Kimi K2 API with Clarifai | Fast, Scalable AI Inference

了解 Clarifai 为何转向即用即付积分、发生了什么变化以及预付费账单如何带来更多可预测性、灵活性和控制力。

为什么复杂的推理模型可以让行为不当的人工智能更容易被发现

Why complex reasoning models could make misbehaving AI easier to catch

在 OpenAI 的一篇新论文中,该公司提出了一个框架,用于分析人工智能系统的思维链推理,以了解它们如何、何时以及为何行为不当。

AMD MI355X GPU 指南:使用案例、基准测试和购买技巧

AMD MI355X GPU Guide: Use Cases, Benchmarks & Buying Tips

企业级 AMD MI355X 指南,涵盖 AI 推理、LLM 培训、内存扩展、性能权衡和部署策略。

NVIDIA B200 GPU 指南:用例、模型、基准测试和 AI 规模

NVIDIA B200 GPU Guide: Use Cases, Models, Benchmarks & AI Scale

了解 NVIDIA B200 如何通过 Clarifai 为前沿 GenAI 提供支持 - FP4 推理、MoE 模型、基准测试和生产部署。

前 JAG 工作组

Former JAGs Working Group

前 JAG 工作组今天推出了其网站。你可以在这里找到它。在国防部长史无前例地撤换陆军、海军和空军军法署署长后,一些前任和退休的军法署署长 (JAG) 于 2025 年 2 月成立了前 JAG 工作组。最初成立的目的是提醒所有美国人该事件对军队的作用和法治产生更广泛的不利影响,并反对其有效拆除国防部内既定的法律护栏,今天我们的前军事法官倡导者联盟致力于成为一个独立的公共服务资源,以管理美国武装部队使用的法律为基础。成员曾在陆军、海军、空军和海岸警卫队的现役部队和预备役部队服役,以及在国防部担任民事律师和领导职务。本网站提供的材料反映并纳入了 JAG 在向指挥官提供关于军事行动合法性的建议时传统上

NVIDIA RTX 6000 Ada Pro GPU 指南:使用案例、基准测试和购买技巧

NVIDIA RTX 6000 Ada Pro GPU Guide: Use Cases, Benchmarks & Buying Tips

企业级 AMD MI355X 指南,涵盖 AI 推理、LLM 培训、内存扩展、性能权衡和部署策略。

利用分子系统学研究 Lipocrea 和 Lariniaria 与 Larinia(蜘蛛亚科:蜘蛛科)的同义词

On the synonymization of Lipocrea and Lariniaria with Larinia (Araneae: Araneidae) using molecular systematics

作者:Akio Tanikawa - http://spider.fun.cx/okinawa/List.htm,CC BY-SA 2.5,https://commons.wikimedia.org/w/index.php?curid=3513715使用分子系统学抽象分子系统发育分析研究 Lipocrea 和 Lariniaria 与 Larinia(蜘蛛亚科:蜘蛛科)的同义词,使用五个基因的数据集进行贝叶斯推理和最大似然法,以评估 Lipocrea Thorell 1878 和 Lariniaria Grasshoff 1970 属的有效性。虽然 Larinia Simon 1874 属最初

DiffuCoder:理解和改进代码生成的掩模扩散模型

DiffuCoder: Understanding and Improving Masked Diffusion Models for Code Generation

扩散大语言模型 (dLLM) 是自回归 (AR) 模型的引人注目的替代品,因为它们的去噪模型在整个序列上运行。 dLLM 的全局规划和迭代细化功能对于代码生成特别有用。然而,目前 dLLM 在编码方面的训练和推理机制仍有待探索。为了揭开 dLLM 解码行为的神秘面纱并释放其编码潜力,我们系统地研究了它们的去噪过程和强化学习 (RL) 方法。我们在 130B 上训练 7B dLLM,\textbf{DiffuCoder}...

IEEE 人工智能汇刊,第 7 卷,第 1 期,2026 年 1 月

IEEE Transactions on Artificial Intelligence, Volume 7, Issue 1, January 2026

1) 量子机器学习在分类中的应用的系统回顾作者:Ehsan Mohammadsavadkohi, Niusha Shafiabady, James Vaklian页数:4 - 212) 生成人工智能时代大型语言模型基准的不足作者:Timothy R. Mcintosh, teo susnjak, nalin arachchilage, tong liu, dan xu, Paul Waters, Malka N. Halgamugpages: 22 - 393) 评论:在线私有模式多对象跟踪的最新进展作者:shavantrevva bilalakeri,karunakar a。 kotegar

科学的圣杯

The Holy Grail of Science

来自 Lars Syll 传统上,哲学家主要关注推理的逻辑模板。范式案例是演绎推理,它是主题中立且上下文不敏感的。对演绎规则的研究引发了对圣杯的探索:对所有表面上合理的推理规则进行句法和主题中立的描述。搜索希望找到[...]