llm关键词检索结果

LLM 可解释性入门

A Gentle Primer on LLM Explainability

本文讨论了法学硕士的可解释性,并概述了这一重要研究领域的进展、趋势和持续发展。

Spellbook 聘请前 Shopify 首席技术官

Spellbook Hires Former Shopify CTO

Spellbook 是 LLM 一代的合约 AI 先驱,聘请了拥有令人惊叹的简历的 Jean-Michel Lemieux。过去的职位包括 Shopify 的 CTO ...

信任测试:IMDA 的 LLM 测试入门套件教给 Spritle 关于 AI 保障的内容

Testing for Trust: What IMDA’s LLM Testing Starter Kit Teaches Us At Spritle About AI Assurance

AI 保证:不断发展的 LLM 安全、信任和治理 QA 帖子《信任测试:IMDA 的 LLM 测试入门套件在 Spritle 教给我们关于 AI 保证的内容》首先出现在 Spritle 软件上。

使用 Amazon FSx for Lustre 和 TurboQuant 上的 GPUDirect 加速 LLM 模型加载并增加上下文窗口

Accelerate LLM model loading and increase context windows with GPUDirect on Amazon FSx for Lustre and TurboQuant

如果您正在 AWS GPU 实例上迭代部署大型语言模型 (LLM),您可能已经注意到要加载到 GPU 高带宽内存 (HBM) 中的模型越大,GPU 准备好进行推理之前的痛苦等待时间就越长。随着模型增长到数千亿个参数,GPU 环境不断增长 [...]

错过目标? A response to Stefan Collini’s latest onslaught on the state of universities

Missing the target? A response to Stefan Collini’s latest onslaught on the state of universities

HEPI 首席执行官 Nick Hillman OBE 对 Stefan Collini 对高等教育政策方向的长篇大论发表了个人看法,该观点发表在最新一期的《伦敦书评》上。有一天,我问某人斯特凡·科里尼去了哪里。几年前,这位剑桥学者到处都在抱怨[…]帖子没有达到目标?对 Stefan Collini 最近对大学现状的攻击的回应首先出现在 HEPI 上。

许多家长都在谈论推迟上幼儿园的事情。很少有人真正做到这一点

Many Parents Talk About Delaying Kindergarten. Few Actually Do It

当亚利桑那州斯科茨代尔的一群同龄孩子的妈妈们首次提出这个话题时,艾莉·博尔曼 (Ally Bollman) 并没有过多考虑她孩子的幼儿园计划。据她回忆,几乎每个孩子在夏天甚至春末过生日的人都在考虑阻止他们[...]

DataRobot 中的行业标准 LLM 基准

Industry-standard LLM benchmarks in DataRobot

每个 LLM 部署都有上限、延迟曲线和单位成本。大多数团队盲目操作,只有在过度配置耗尽 GPU 预算或峰值流量导致灾难性故障时才发现部署限制。三个数字很重要:GPU 饱和之前的最大持续并发性、该并发性下的端到端延迟以及每百万代币的成本……DataRobot 中的后行业标准 LLM 基准首先出现在 DataRobot 上。

如何影响影响者:高等教育的归属感

How to Influence the Influencers: Belonging in Higher Education

以下是 HEPI 首席执行官 Nick Hillman OBE 在华威大学主办的高等教育归属感会议上发表的演讲全文。谢谢你邀请我。我是 HEPI 的首席执行官,HEPI 是一家总部位于牛津的智库和慈善机构,专门从事高等教育领域。除了数十份报告之外,[...]《如何影响影响者:高等教育的归属》一文首先出现在 HEPI 上。

拟蝎科 Chernetidae Menge 的第一块化石,1855 年(蛛形纲,拟蝎目),来自白垩纪中期缅甸琥珀

First fossil of the pseudoscorpion family Chernetidae Menge, 1855 (Arachnida, Pseudoscorpiones) from mid-Cretaceous Burmese amber

拟蝎科门格 (Chernetidae Menge) 的第一块化石,1855 年(蜘蛛纲,拟蝎子目)来自白垩纪中期的缅甸琥珀摘要拟蝎子(蜘蛛纲:拟蝎子目)是最古老的陆地谱系之一,但其化石记录仍然非常稀疏。近年来,上白垩纪缅甸琥珀已成为拟蝎化石的重要来源。在这项研究中,我们通过描述新的属和种 †Burmachernes gen,将 1855 年 Chernetidae Menge(最多样化的拟蝎科之一)的化石记录延长了至少 2000 万年。十一月对于新物种 †Burmachernes cenomanium sp。十一月来自这个琥珀矿床。尽管 †Burmachernes 表现出切尔尼科的主要共源型,

人类婴儿什么时候有意识?

When Are Human Babies Conscious?

Hatty Willmoth,科学焦点 如果您正在阅读本文,您可能相当确定自己是有意识的。你可能会认为你所爱的人,你不那么爱的人,甚至你的怪人......

在 Amazon SageMaker AI 上训练阿塞拜疆语语言模型

Training Azerbaijani language models on Amazon SageMaker AI

Azercell Telecom LLC 是阿塞拜疆领先的电信提供商,希望在 Amazon SageMaker AI 上针对电信用例和面向客户的聊天机器人构建阿塞拜疆大语言模型 (LLM)。挑战:使基础模型 (FM) 适应形态丰富的语言,但训练数据有限,而且阿塞拜疆没有现有的高效法学硕士培训蓝图。在为期六周的合作中,Azercell 与 AWS Generative AI 创新中心合作,在 Amazon SageMaker AI 上建立了一个生产就绪框架。

Amazon SageMaker AI LLM 推理的全面可观察性:从 GPU 利用率到 LLM 质量

Comprehensive observability for Amazon SageMaker AI LLM inference: From GPU utilization to LLM quality

本文演示了使用 Amazon Managed Grafana 仪表板的综合可观测性解决方案,该仪表板通过推理组件为 Amazon SageMaker AI 终端节点上提供的 LLM 提供质量和数量的整体视图。

RAG 正在烧钱 - 我构建了一个成本控制层来解决它

RAG Is Burning Money — I Built a Cost Control Layer to Fix It

大多数 RAG 系统都是针对答案质量而不是成本进行优化的,而盲点的成本很快就会变得昂贵。在本文中,我分解了一个结合了语义缓存、查询路由、令牌预算和熔断的生产就绪成本控制层,在不牺牲答案质量的情况下实现了 LLM 成本降低 85%。 帖子《RAG 正在烧钱 — 我构建了一个成本控制层来修复它》首先出现在《走向数据科学》上。

DiffuJudge-AV:用于校准 AV 视频评估的扩散启发框架

DiffuJudge-AV: A Diffusion-Inspired Framework for Calibrated AV Video Evaluation

一种受扩散启发的框架,用于压力测试和降噪 LLM-as-a-Judge 管道,应用于安全关键的驾驶视频。后 DiffuJudge-AV:用于校准 AV 视频评估的扩散启发框架首先出现在走向数据科学上。

让本地 LLM 代理真正发挥作用的基础设施

The Infrastructure Behind Making Local LLM Agents Actually Useful

使用本地开放权重模型、vLLM 和长上下文基础设施构建快速、可靠的科学代理的经验教训使本地 LLM 代理真正有用的基础设施背后的帖子首先出现在走向数据科学上。

Vibe-SysAdmining:当天的笑声

Vibe-SysAdmining: LAUGH OF THE DAY

其中前沿 LLM 模型告诉我配置一个新的聊天机器人以使用模型“/anthropic/claude-sonint-4-6”;是的,这仅意味着训练数据中的某个地方有一些可怜的 SOB 输错了......

人工智能解决方案引发关于数学未来的争论

AI Solutions Spark Debate Over Future of Mathematics

Amy Searle,《物理世界新闻》,大型语言模型 (LLM) 在解决 Erdős 问题方面取得了重大进展,Erdős 问题是由 20 世纪著名的数学家提出的一系列问题......

报告:人工智能的对抗性使用正在演变

Report: Adversarial Use of AI is Evolving

根据谷歌威胁情报小组 (GTIG) 的研究人员的说法,威胁行为者越来越多地利用人工智能工具来增强他们的攻击。 GTIG 首次观察到威胁行为者使用人工智能开发的零日漏洞,尽管谷歌在攻击成功之前阻止了该攻击。威胁行为者还继续使用大型语言模型 (LLM) 进行研究、侦察和恶意软件开发。