Parallel Track Transformers: Enabling Fast GPU Inference with Reduced Synchronization
基于 Transformer 的大型语言模型 (LLM) 的高效大规模推理仍然是一个基本的系统挑战,经常需要多 GPU 并行性来满足严格的延迟和吞吐量目标。传统的张量并行性会分解跨设备的矩阵运算,但会引入大量的 GPU 间同步,从而导致通信瓶颈和可扩展性下降。我们提出了并行轨道(PT)变压器,这是一种新颖的架构范例,可以重组计算以最小化跨设备依赖性。 PT 实现了高达 16 倍的减少……
San Francisco ATC Clears Two United Airlines Planes Takeoff at Same Time
两架联合航空航班在平行跑道上发生管制员许可混淆后,几乎同时在 SFO 起飞,需要迅速采取纠正措施以保持安全间隔。旧金山 ATC 批准两架联合航空飞机同时起飞的帖子首先出现在 Aviation A2Z 上。
How Automated NLP Pipelines Cut Oncology Data Abstraction from Weeks to Hours
Cognizant 高级数据科学家兼 IEEE 会议发言人 Abhijit Nayak 讨论了为癌症研究构建生产级信息提取系统,以及为什么领域专业知识比模型大小更重要。 《人工智能评论》7 月份的一项调查分析了 156 项肿瘤学 NLP 研究,并发现了一种模式:Transformer 模型在研究基准上表现出色,然后崩溃 [...]
ECS Faculty Receive Grant to Expand Next-Generation Computing to Local Students
美国国家科学基金会 CSforAll 奖将使纽约州中部的高中生受益。ECS 教师获得赠款以向当地学生扩展下一代计算技术的消息首先出现在《今日雪城大学》上。
Flexxbotics Transformers 根据 Apache 2.0 许可证发布,采用软件定义自动化 (SDA) 设计,可加速各种制造环境中使用不同工具、机器和自动化的开放式互操作性。
Trump’s greatest strength in 2024 is now a debilitating weakness: poll
美国 2024 年总统选举是一场真正的赛马,共和党候选人唐纳德·特朗普最终在全国普选中以大约 1.5% 的优势击败了民主党候选人、时任副总统卡马拉·哈里斯。根据民意调查,经济——尤其是对通货膨胀的不满——是他最终以微弱优势获胜的最大因素。但哥伦比亚广播公司新闻/YouGov 的一项新民意调查显示,特朗普在 2024 年的最大优势现在已成为主要弱点。1 月 18 日星期日公布的民意调查发现,74% 的美国人认为特朗普对通胀不够关注。新泽西高级媒体/NJ.com 记者劳伦·斯福扎 (Lauren Sforza) 解释说,“尽管特朗普承诺降低成本,但 76% 的美国人表示,他们的收入跟不上通胀。只有
ParaRNN: Unlocking Parallel Training of Nonlinear RNNs for Large Language Models
循环神经网络 (RNN) 为序列建模奠定了基础,但其内在的序列性质限制了并行计算,为扩展造成了根本障碍。这导致了 Transformer 等可并行架构以及最近的状态空间模型 (SSM) 的主导地位。虽然 SSM 通过结构化线性递归实现高效并行化,但这种线性约束限制了它们的表达能力,并妨碍对复杂的非线性序列依赖关系进行建模。为了解决这个问题,我们提出了 ParaRNN,一个打破......
Popular Python libraries used in Hugging Face models subject to poisoned metadata attack
这些开源库由 Salesforce、Nvidia 和 Apple 与瑞士集团创建。Hugging Face 模型中使用的流行 AI 和 ML Python 库中的漏洞,下载量达数千万次,允许远程攻击者在元数据中隐藏恶意代码。当加载包含中毒元数据的文件时,代码会自动执行。
Mastering Non-Linear Data: A Guide to Scikit-Learn’s SplineTransformer
忘记僵硬的线条和疯狂的多项式。了解为什么样条曲线是特征工程的“金发姑娘”,它使用 Scikit-Learn 的 SplineTransformer 为非线性数据提供了灵活性和纪律的完美平衡。掌握非线性数据:Scikit-Learn SplineTransformer 指南的帖子首先出现在《走向数据科学》上。
APEDA launches initiative to boost agri-food, agri-tech startups, exports
APEDA 主席 Abhishek Dev 在 Indusfood 2026 展会间隙表示:“我们将为排名前 10 的初创公司提供在国际平台上展示其产品的机会”