LM关键词检索结果

P-EAGLE:通过 vLLM 中的并行推测解码实现更快的 LLM 推理

P-EAGLE: Faster LLM inference with Parallel Speculative Decoding in vLLM

在这篇文章中,我们将解释 P-EAGLE 的工作原理、如何将其集成到从 v0.16.0 (PR#32887) 开始的 vLLM 中,以及如何通过预先训练的检查点为其提供服务。

为什么关心 LLM 中的提示缓存?

Why Care About Prompt Caching in LLMs?

使用提示缓存优化 LLM 调用的成本和延迟The post Why Care About Prompt Caching in LLMs?首先出现在《走向数据科学》上。

教师(尤其是 ELL 教师)了解 Google NotebookLM 的最佳资源

The Best Resources For Teachers, Especially Those Teaching ELLs, To Learn About Google’s NotebookLM

在过去的两三年里,谷歌在人工智能方面尝试了很多失败的实验,但他们的 NotebookLM 似乎是有效的。他们不断地为其添加新功能。因此,我只是分享截至 2026 年初的最新资源,但必须定期回来并转储所有内容 [...]

议会论坛呼吁紧急进行 PALM 签证改革,因 7,000 名工人失业

Parliament forum calls for urgent PALM visa reform as 7,000 workers disengage

剥削和恶劣的生活条件导致估计有 7,000 人放弃了太平洋澳大利亚劳动力流动 (PALM) 计划。澳大利亚研究所首先出现了 7,000 名工人脱离的情况,议会后论坛呼吁紧急进行 PALM 签证改革。

加速自定义 LLM 部署:使用 Oumi 进行微调并部署到 Amazon Bedrock

Accelerate custom LLM deployment: Fine-tune with Oumi and deploy to Amazon Bedrock

在这篇文章中,我们将展示如何在 Amazon EC2 上使用 Oumi 微调 Llama 模型(可以选择使用 Oumi 创建合成数据)、在 Amazon S3 中存储工件以及使用自定义模型导入部署到 Amazon Bedrock 进行托管推理。

每个 LLM 工程师都应该知道的 10 个 Python 库

10 Python Libraries Every LLM Engineer Should Know

有兴趣成为法学硕士工程师吗?以下是您的工作所必需的 Python 库的列表。

Edge SLM 彻底改变了电信接收

Edge SLMs Revolutionize Telco Ingestion

为什么重要:边缘 SLM 通过在边缘实现更快、更智能、低延迟的数据处理,彻底改变电信接收。

LLM 培训转变推动 AI 飞跃

LLM Training Shift Powers AI Leap

为什么重要:法学硕士培训转变为 AI Leap 探索了 RLHF 和指令调整等新培训方法如何促进人工智能。

vLLM vs Triton vs TGI:选择正确的 LLM 服务框架

vLLM vs Triton vs TGI: Choosing the Right LLM Serving Framework

将公共 MCP 服务器部署为 API 端点,并使用函数调用将其工具集成到 LLM 工作流程中。

可塑性思维:背景积累驱动LLM的信念漂移

The malleable mind: context accumulation drives LLM’s belief drift

在接受了包含 80,000 个保守政治哲学单词的数据集的训练后,Grok-4 在超过四分之一的时间里改变了其输出对政治问题的立场。这没有任何对抗性提示——训练数据的变化就足够了。由于记忆机制和研究代理 [1, 2] 使法学硕士能够积累 [...]

荷兰护卫舰 HNLMS Evertsen 将部署在地中海

Dutch frigate HNLMS Evertsen to be deployed in the Mediterranean

荷兰政府决定从本周到四月初在地中海东部部署 De Zeven Provinciën 级防空指挥护卫舰 HNLMS Evertsen。荷兰国防部新闻稿该护卫舰将为航母战斗群的防御以及塞浦路斯和盟国领土的防御做出贡献。部长们...即将部署在地中海的荷兰护卫舰 HNLMS Evertsen 首先出现在《海军新闻》上。

AER 的援助让 JBLM 士兵“如释重负”

AER assistance ‘a great relief’ to JBLM soldier

华盛顿州刘易斯-麦科德联合基地 - 刘易斯-麦科德联合基地第一多域特遣部队的理查德·尼尔森中士,不是一个要求...

嘿ChatGPT,给我写一篇虚构的论文:这些LLM愿意进行学术造假

Hey ChatGPT, write me a fictional paper: these LLMs are willing to commit academic fraud

研究发现,主流聊天机器人对故意制造请求表现出不同程度的抵制

Baykar Technology 报告 Bayraktar KIZILELMA 无人驾驶战斗机的主要里程碑

Baykar Technology Reports Major Milestones for Bayraktar KIZILELMA Unmanned Fighter Jet

AeroMorning 2026 年 3 月 6 日 2025 年 12 月 28 日,土耳其乔尔卢 – Baykar Technology 宣布其 Bayraktar KIZILELMA 无人驾驶战斗机取得重大技术突破并成功完成...Baykar Technology 发布的后报告 Bayraktar KIZILELMA 无人驾驶战斗机的主要里程碑首先出现在 AeroMorning 上。

LLM 时代的数据工程

Data Engineering for the LLM Age

优秀的法学硕士需要优秀的数据。探索塑造人工智能就绪数据工程未来的管道、工具和 RAG 架构

十大 LLM 评估工具

The Top 10 LLM Evaluation Tools

LLM 评估工具可帮助团队衡量模型在各种任务中的执行情况,包括推理、总结、检索、编码和指令遵循。他们分析性能趋势,检测幻觉,根据实际情况验证输出,并在微调或即时工程期间对改进进行基准测试。如果没有强大的评估框架,组织就会面临部署不可预测或有害人工智能的风险……阅读更多»“十大法学硕士评估工具”一文首先出现在《大数据分析新闻》上。

解释带有外生价格冲击的基本 IS-LM 中的 2/27

Interpreting 2/27 in Basic IS-LM w/Exogenous Price Shock

摘自 PA854 注释(AD-AS 章之前),明天将讨论:假设价格水平在短期内相对于总需求而言是粘性的,但对成本推动冲击做出快速反应:油价上涨(参见这篇文章)然后导致 LM 曲线(灰色箭头)向左移动,从而提高借贷成本。产出下降[...]

有史以来最大的 ALMA 图像跨越 650 光年,揭示了银河系混乱的中心

Largest ALMA Image Ever Spans 650 Light-Years, Revealing the Chaotic Heart of the Milky Way

了解有关银河系极其详细的图像以及研究人员可以从中学到什么的更多信息。