LiteLLM in the crosshairs: Supply Chain Attack on AI Infrastructure
LiteLLM 的用户可能已成为攻击者组织的目标。早在 3 月份,人们就知道“TeamPCP”组织已经成功获取了各个平台的机密信息,包括 Kubernetes 秘密、SSH 密钥、存储库凭证、AWS 等云平台以及 AI 环境的代币。有关谁受到影响以及攻击者能够窃取哪些数据的信息可以在在线数据库中查看。
Potomac Valor Healthcare-2, LLC
Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
Потребление китайских LLM в России выросло более чем в 11 раз
MWS云分析了俄罗斯企业对中国大语言模型的消费情况。 2026年上半年的消费量比2025年全年高出11倍多。
企业文档智能 [Vol.1 #9ter] - 第 9 条中的管道分几个步骤调用模型以确保其正确。对于简单的问题,这是不必要的延迟。每个问题的信号都会引导他们通过模型,为关键字匹配节省大约两秒的时间。通过减少 LLM 的调用,而不是通过购买更快的模型来降低企业 RAG 管道的延迟和成本,该帖子首先出现在《走向数据科学》上。
Harbor Seeks To Counter General LLM FDEs
法律技术咨询公司 Harbor 推出了针对法律人工智能需求的“部署”,这将使他们“在客户内部嵌入包括前沿部署工程师 (FDE) 在内的专家团队”。他们...
NTSB Prelim: Aero Commander CALLAIR A-9B
当飞机距地面约 50 英尺时,发动机突然失去动力 2026 年 7 月 27 日,大约中部夏令时 0819 分,一架航空指挥官卡拉尔 A-9B 飞机 N7799V 在密苏里州利沃尼亚附近发生事故时严重受损。飞行员没有受伤。该飞机按照联邦法规第 14 章第 137 部分农业应用飞行进行运营。飞行员称事故发生时他正在田地喷洒农药。当飞机距地面约 50 英尺时,在最后一次应用飞行中越过林木线时发动机突然失去动力。飞行员迫降至大豆田。飞机在迫降过程中副翼、机身、尾翼和方向舵均受损。
Tiered KV cache for large LLMs on Amazon SageMaker HyperPod with Curvine
大规模运行大型语言模型推理会迫使 KV 缓存进行权衡:GPU 实例规模过大或首次生成令牌的时间过长。本文在 Amazon SageMaker HyperPod 上构建了一个分层 KV 缓存,将缓存扩展到使用 Curvine 的共享分布式 NVMe 池中,因此副本可以在经济高效的实例上以接近本地磁盘的速度重用缓存。
Semantic Knowledge Graph for LLM Agents
为什么重要:了解 LLM 代理的语义知识图如何减少幻觉、增加记忆力并将测试中的答案准确性从 17% 提高到 54%。
DeepAmbigQA: Ambiguous Multi-hop Questions for Benchmarking LLM Answer Completeness
具有集成搜索工具的大型语言模型 (LLM) 在开放域问答 (QA) 方面显示出强大的前景,但它们常常难以为复杂问题提供完整的答案,例如“电影《热火》中的哪位演员至少赢得了一项奥斯卡奖?”,这需要 (1) 区分多部具有相同标题的电影,以及 (2) 对大量演员进行推理以收集和整合证据。现有的质量保证基准很少联合评估这两个挑战。为了解决这个问题,我们引入了 DEEPAMBIGQAGEN,一个自动数据生成管道,用于构建 QA...
LLM optimization integration for Amazon SageMaker Python SDK
Amazon SageMaker Python SDK v3 现在直接在您的笔记本中公开 Amazon SageMaker AI 中的生成式 AI 推理建议。对端点进行基准测试,生成数据驱动的部署建议,并部署推荐的配置,而无需离开笔记本工作流程。
FIRST RECORD OF LATRODECTUS CORALLINUS (ABALOS, 1980) (ARANEAE: THERIDIIDAE) IN PANAMA
巴拿马 LATRODECTUS CORALLINUS (ABALOS, 1980)(蜘蛛科:THERIDIIDAE)的首次记录AbstractLatrodectus Corallinus (Abalos, 1980) 在巴拿马的两个省份被发现,之前在这两个省份以不同的物种名称报道过黑寡妇蜘蛛。这些观测结果首次提供了中美洲 L. Corallinus 的确认证据,从而大大扩展了其已知的分布范围。巴拿马 Latrodectus Corallinus (Abalos, 1980)(蜘蛛亚科:Theridiidae)的首次记录 摘要。 Latrodectus Corallinus (Abalos, 1
Join Me At A Free Sept. 29th Webinar On Supporting ELL Students’ Sense Of Belonging
Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
Honest Abacus AI Review: ChatLLM, DeepAgent, AI Studio & More
一体化 AI 引擎:Abacus AI 完整生态系统的全面回顾深入了解该平台如何将 100 多个 AI 模型、自主代理和完整的开发人员套件集成到为团队和高级用户提供的单一且经济高效的工作流程中。
7 Approaches to Reduce Inference Latency in Your LLM Workflows
从量化到推测解码,这里有七种工程策略,可以在生产中交付更快、响应更灵敏的生成式 AI 应用程序。
十年前,我开始定期发布这个专题,分享一些来自网络的与 ESL/EFL 或引起我注意的一般语言相关的帖子和资源。您可能还对我所有关于 ELL 教学的最佳列表感兴趣。另外,请查看我最好的收藏[...]